스포일러 주의 내용을 확인하시려면 스크롤 해주세요.

스포일러 경고 기능이 추가됐습니다.
(펼침 메뉴 > 설정에서 변경 가능)

 만두이미지


viewimage.php?id=3fb8d122ecdc3f&no=24b0d769e1d32ca73dec87fa11d0283123a3619b5f9530e0a1306168e0dcca0c1bac071e238279a858d0885182a582fdf85e7788a64b50a0f7ffe6d8ecd1dea0679a



수학 공부를 해보신 적 있으십니까? 저는 문과생이지만, 어쩌다 보니 대학교에서 수학 수업을 듣게 되었습니다. 그 중 하나가 해석학이라는 과목이었습니다. 정말 끔찍했습니다. 대체 왜 이렇게까지 베베 꼬인 생각을 해야 하는지, 이 공식은 누구 대가리에서 나온건지 참 만들어낸 사람 머리를 열어서 뜯어보고 싶은 생각이 들었습니다. 어떻게 생각을 해야지 이런 공식들을 생각할 수 있을지... 이해하기도 어렵고 실제로 이해하지 못한 부분도 많았습니다.


그 중 아직도 기억나는 것 하나가 루트2라는 숫자가 유일하게 존재한다는 걸 증명한다는 내용이었습니다. 생각해보면 당연한것 처럼 느껴지지 않습니까? 숫자가 그럼 유일하게 존재하지 같은 숫자가 여럿 존재할 수 있을까요? 그렇지만 수학자들에게는 그렇지 않았나봅니다. 수학자들은 그 숫자를 뜯어보고 따져서 루트2라는 숫자가 존재하고, 그 존재하는 숫자가 유일하게 하나만 존재한다고 증명을 해야지만 속이 시원했던 모양입니다. 그래서 전 그 내용을 공부하며 수학만큼이나 엄밀하고 꼬치꼬치 캐묻는 과목은 없을 것이라 생각했습니다.


그런데 이 책을 읽어보고 저는 생각을 고쳐먹게 되었습니다.


이 책에 따르면, 최초의 그리스 수학자들은 자연을 탐구하면서 수학을 공부하게 되었다고 합니다. 자연을 이루는 법칙을 신적 존재들으로만 설명하지 않고 관찰과 추측을 통해 설명하려고 시도했던 최초의 사람들이라고 소개됩니다. 그 뒤를 이어서 나타난 중세 수학자들은 세상을 창조한 하느님께서 세운 법칙이 수학에 숨어있다고 믿었습니다. 그래서 수학 공부가 신의 뜻을 이해할 수 있는 방법이라고 생각했다고 합니다.


이 수학자들은 자연 현상의 이면에 놓여 있는 수학적 법칙의 존재를 확신했으며 그러한 법칙을 찾는데 끈질긴 노력을 기울였다. 그것은 하느님이 우주를 창조할 때 이러한 법칙을 심어 놓았기 때문이다. 자연 법칙을 발견할 때마다 발견자의 공로를 치하하기보다는 하느님의 위대하심을 나타내는 증거로 찬양되었다.(p.67)


하지만 그렇다면 이는 시작부터 잘못 돌아가고 있었던 셈입니다. 이 부분을 읽으면서 저는 창조설과 지적설계 논쟁을 떠올리게 되었습니다. 하느님이 모든 것을 만들어냈다는 말이 비판받자 꺼내온 것이 지적설계자인데, 그 중 일부는 모든 진화를 그렇게 진화되도록 세상의 법칙을 만들어낸 지적인 설계자가 있다는 주장을 합니다. 그리고 그런 사람들은 굳이 그런 존재를 가정해야 하냐는 비판을 받고 있죠.


되돌아보면, 하느님이 자연을 수학적으로 설계했다는 믿음은 바로 수학자들의 연구로 인해 붕괴되어 가고 있었다. (p.134)


이러한 일련의 수학역사적 흐름을 돌이켜봤을때, 수학자들이 처음부터 그 엄밀함을 지금처럼 추구했던 것은 아니었습니다. 처음 수학을 연구한 그리스 철학자들은 자신들의 관찰에만 의존했고, 또한 무리수와 같이 자연수비로 떨어지지 않는 수는 존재하지 않는다고 무시했습니다. 중세 철학 역시 이전의 관습적인 수학 지식을 그대로 받아들였고, 덕분에 근대에 들어서 수학자들은 자신들이 믿고 있던 수학의 토대가 사실은 지극히 불안정하다는 사실을 깨닿게 됩니다.


예를 들어, 유클리드 기하학에서는 어떤 직선에 평행한 또 다른 직선은 오직 하나 뿐이라는 평행선 공리가 있습니다. 그러나 사실 이 공리는 옳지 않다고 가정해도 논리적으로 성립할 수 있음이 드러납니다. 그래서 어떤 한 직선에 평행한 직선이 수없이 많은 기하학이나 평행한 직선이 하나도 없는 기하학이 등장하게 됩니다. 또한 사원수, 행렬 같은 '교환법칙이 성립하지 않는 수'의 등장은 당연하게 여겨지던 사칙연산의 체계 위에 살던 수학자들에게 큰 충격을 주게 됩니다.


게다가 생각보다 수학계에서 음수, 복소수 같은 개념이 일반적으로 받아들여진 것은 그렇게 오래 된 일이 아니라고 합니다. 저는 이 대목에서 큰 충격을 받았습니다. 교과서에서 이름을 여러번 들어본 오일러와 같은 사람조차 복소수 계산에서 실수를 하고, 또 18세기에까지 음수나 복소수를 제대로 된 수라고 받아들이는 걸 거부하는 사람들이 있었다는 점에서 옛 수학자들의 천재성에 대해 다시 생각해보게 되는 계기가 되었습니다.


수학자들은 무리수보다 음수에 더 큰 어려움을 느꼈는데, 아마도 음수에서 기하학적 의미를 찾기가 쉽지 않고 또 그 연산 법칙도 이상했기 때문일 것이다.(p.210)

오일러도 역시 복소수에 대해 명확한 생각을 갖고 있지 못했다. (중략) 그는 또 복소수 계산에서도 실수를 했다. 『대수학 완전 입문』에서 루트(a)*루트(b) = 루트(ab)이기 때문에 루트(-1)*루트(-4)=루트(4)=2 라고 했다. (p.214)


특히 최근에 제가 가르친 수학 과외에서의 경험이 떠오르는 대목이었습니다. 저는 중학생에게 수학 과외수업을 하고 있습니다. 그러던 중 수의 거듭제곱을 가르치는 부분에서, 저는 2의 1승, 2승, 3승을 이야기하다가 2의 0승, 그리고 2의 -1승을 이야기하려는 순간 말문이 막히고 말았습니다. 2를 -1번 곱한다는건 뭐라고 설명해야 하지? 그리고 저는 제가 생각보다 음수라는 개념이 어떤 개념인지 엄밀하게 모르고 있다는 걸 체감하고 충격을 받았습니다.


음수라는게 뭘까요? 흔히들 음수를 빚에 빗대어 설명하고는 하는데, 또는 수직선상의 0보다 왼편에 있는 쪽으로 말하는데, 그럼 음수의 참된 본질적 의미는 뭐라고 해야 할까요? 애초에 음수라는 수는 과연 실존하는 수인가요? 그런데, 그렇다면 과연 숫자는 과연 실존하는 무언가인가요? 현실세계에서 이것이 진짜 숫자다 하고 당당하게 제시할 수 있나요? 예를들어서 1이라는 숫자는 과연 실존하는 숫자인가요?


혹자는 이런 질문에 나뭇가지 하나를 들이밀 수도 있지만 그건 나뭇가지 하나인거지 그 자체가 1이라는 수는 아닙니다. 누군가는 바닥에 세로 작대기를, 또 다른 누군가는 가로 작대기를 하나 그을 수는 있겠지만 그 자체로 그것이 숫자라는 객관적인 대상은 아닙니다. 그렇다면 숫자라는 건 무엇인가요?


근대의 수학자들도 이것을 모르고 있었습니다. 모르는 채로, 그들은 비유클리드 기하학과 사원수, 행렬에 충격을 받고 자신들이 쌓아올린 수학 체계를 다시 점검하고 나서기 시작했습니다. 미적분학에서부터 시작해서, 무리수와 기하학과 같은 예전에 이미 쌓아올린 수학에 대해 다시 검증하고, 코시와 데데킨트 등 이름을 들어본 수많은 죽이고 싶은 수학자들의 업적을 바탕으로 마지막으로 마침내 그들은 1900년에 들어서 모든 기반을 다졌다고 자축했습니다.


이렇게 수학자들은 자승자박의 상태에 빠졌다는 사실을 알지 못한 채 가장 가능한 최상의 상태에 도달했다고 선언했다. (p.341)

이것이 끝이 아닙니다. 끝의 시작조차도 아닙니다. 차라리 시작의 끝이라고 할 수 있겠습니다.

-윈스턴 처칠, 1942.11.10


그러나 수학자들이 영광의 시대에 이르렀다고 자축한 바로 그 시대에 수학자들은 모든 믿음을 잃어버릴 파멸의 시대에 발을 딛고 있었던 것이었습니다. 물론 인간으로서는 당연한 일입니다. 그들은 그들이 의심스럽다고 생각한, 아직 불명확하고 엄밀하지 못하다고 생각한 모든 것에 대해서 기반을 다지는 작업을 끝마쳤습니다. 그러나 어떻게 그들이 5천년 이상 사용한, 그리고 그 수천년간 아무 모순도 드러내지 않은 실수 체계에 문제가 있다고 생각할 수 있겠습니까?


처음 집합론이 등장할때까지만 해도 이들은 자신들의 가장 핵심적인 기반, 수 그 자체에 문제가 있다는 사실을 눈치채지 못했습니다. 그러나 집합론은 곧 뜨거운 감자로 부상합니다. 숫자 그 자체를 다루기 시작하자 그들이 전혀 생각하지도 못했던, 그러나 그들 모두가 사용하고 있었던 공리들이 그들의 발 밑에 있다는 사실을 들춰내버렸기 때문입니다.


곧 수학자들은 여러 파벌으로 분열합니다. 첫째는 논리주의라는 파벌으로, 수학을 논리적 개념으로 환원하여 모든 수학개념은 논리 위에 세워질 수 있다는 것을 보이려 한 파벌입니다. 그들은 모든 수학적 지식이 논리의 추론 규칙에 의해 증명될 수 있다고 믿었습니다. 그러나 이들은 위에서 말한대로 그들이 있는지조차도 몰랐던, 게다가 딱 봤을때 그렇게 당연해보이지도 않는 공리들을 인정해야만 한다는 점 때문에 반대를 마주합니다.


그 중 하나가 선택공리입니다. 선택공리는 주어진 집합들에서 각 집합마다 원소를 하나씩 뽑아낼 수 있다는 공리입니다. 집합이 있으면 그 집합에서 무언가 하나를 잡아 뽑아내는 게 가능하다는 주장이 일견으로는 그렇게 이상해보이지 않습니다. 그러나 이 선택공리를 받아들이면, 바나흐-타르스키 역설이라는 유명한 역설이 논리적으로 아무 문제 없이 성립하게 됩니다. 책에 따르면, 해당 역설은 "지구만한 크기의 구체를 나누어서 야구공만한 크기의 구체에 담을 수 있다"고 합니다.


그 때문에 논리주의를 받아들이길 거부한 사람들이 도입한 것이 직관주의입니다. 직관주의는 말 그대로 직관을 통해서 자명하다고 보이는 수학적 지식들과 개념들만을 바탕으로 수학을 만들어야 한다는 사람들입니다. 이 사람들의 주장으로 대표적인 것이 배중률을 거부한 것입니다.


배중률은 A는 B이거나 B가 아닌 것 둘 중 하나에만 해당한다고 말하는 것입니다. 예를 들어서, 사과는 과일이거나 과일이 아닌 무언가 둘 중 하나에만 속합니다. 이를 응용해서, 만약 1이 음수가 아니라는 것을 보일 수 있다면 그것은 양수입니다. 이것은 너무나 당연해보이는 논리이지만 이것을 통해 비직관적인 결론을 유도할 수 있었기 때문에 직관주의에선 배중률을 거부한 것입니다.


그러나 배중률은 수많은 수학 정리들에 이용된 논리이고, 그 외에 직관에 반한다는 이유로 거부한 논리 때문에 그들은 이미 쌓아올린 수많은 수학의 금자탑을 스스로 무너트려야만 한다는 반대에 부딫히게 됩니다.


또한 등장한 것이 형식주의라는 파벌입니다. 형식주의는 논리주의와 직관주의의 단점을 모두 극복하려고 나타난 파벌으로, 수학을 모순이 없이 완전한 공리 체계로 만들으려고 시도했습니다. 이들은 수학의 기호 자체에 뜻을 부여하기보단 기호들 간의 관계를 잘 정의하는 것으로 수학을 엄밀하게 나타내려 했고, 그것을 통해 수학 체계 안에 아무 모순이 없이 어떠한 정리도 증명 가능하게끔 만들으려고 시도했습니다.


그렇지만 괴델이 등장하여 이 시도는 무산되어버립니다. 그 유명한 불완전성 정리, 책에는 불완비성 정리라고 소개된 정리 때문입니다. 괴델은 어떤 공리체계 안에서 무모순성을 얻기 위해선 반드시 그 댓가로 불완비성을 얻게 된다는 것을 증명했습니다. 즉, 어떤 체계가 아무 모순이 없이 성립한다면 그 체계 안에선 분명히 참인데도 불구하고 절대로 증명할 수 없는 정리가 하나 이상은 존재한다는 것입니다.


이렇게 수학의 확실성이라는 책 제목에도 불구하고 책 내용은 결국 확실하고 모두에게 인정받는 객관적인 수학이 없다는 내용을 보이고 있습니다.


그렇다면 우리가 다루는 수학이란 뭘까요? 지금 제가 디시에 글을 쓰는 키보드질조차 수학 덕분에 이루어진 완성품입니다. 인터넷 역시 수학 덕분에 등장한 것이고, GPS며 컴퓨터 역시 온갖 첨단 수학기법 덕분에 탄생한 물건들입니다. 지금 손에 만져지고 눈에 보이고 귀에 모터 돌아가는 소리가 들리는 이 모든것이 실체를 갖고 있는데 사실 이 모든게 모호한 무언가라니, 이상하다고 생각하지 않습니까?


여기서 작가는 수학이 고립되고 있다면서 경종을 울립니다. 수학은 최초 그리스 수학자들이 수학을 시작했을 때부터 자연현상을 설명하기 위해 도입된 학문이고, 중세 수학자들이 신의 뜻을 찾는다면서 자연을 분석하기 위해 사용했는데 이제 와서는 수학이 과학과 다르게 순수 학문이라는 자부심 때문에 고립되고 있다고 말합니다. 작가는 수학이 자연과학과 분리되서 홀로 오롯이 설 수 있다는 생각을 버리고 자연으로 돌아가야 한다고 말합니다.


수학 이론이 기대하지도 않았던 곳에 응용되는 것은 그 이론이 애초에 물리 문제 해결을 위해 만들어졌기 때문이지 내면의 영혼과 홀로 씨름하는 현명한 수학자의 예언자적 통찰력 덕분은 절대 아니다. (p.512)


수학자가 아니라 경제학을 전공한 학생이기 때문일까요? 저도 이 주장에 동의합니다. 경제학은 비록 물리학이나 여타의 자연과학에 비하면 턱없이 부족할 만큼의 수학밖에는 사용하지 않으나, 현실을 추상화하기 위해 수학적 도구들을 자주 사용하고는 합니다. 그 과정에서 많은 경제학 학생들이 경제학을 어차피 현실과는 다른 무언가로 여기고 그 가치를 폄하하거나, 또는 경제학 모델이 현실의 모든 것을 설명할 수 있다고 자화자찬하고는 합니다.


그러나 결국 경제학은 현실을 설명하기 위한 도구이지 현실 자체가 아니고, 이러한 관계가 수학과 과학 사이에도 부분적으로 성립하지 않나 싶습니다. 수학은 자연을 설명하기 위해 만들어진 것이고, 이러한 말이 수학자들의 자존심을 해치는 말일 수 있지만, 애초에 물리적 실체를 관념적 무언가보다 더 중요하게 생각하는 게 잘못된 것은 아니지 않습니까?


앞서 언급한 바이기도 하지만 수학은 결국 어떠한 실체가 없는 무언가라고 생각합니다. 이 세상 그 누구도 1이라는 무언가를 가져와보아라 하여도 가져올 수 있는 사람은 없습니다. 그렇다면 그 수학이라는 관념은 어떤 객관적인 무언가로서 우리의 의식 영역 밖에 존재하고 있을까요? 전 그것조차 아니라고 생각합니다.


수학의 기원을 논할 필요도 없이 수학은 우리의 의식 위에 생겨난 어떠한 체계입니다. 그 의식은 바로 우리의 오근에서 비롯되어 생겨났습니다. 즉, 우리가 무언가를 눈으로 보고 귀로 듣고 맛을 보고 손으로 만지고 냄새를 맡고, 또 그것을 생각하는 의식이 육근으로 망라되어 우리의 인지기관 전체를 아우른다고 할 수 있습니다. 설령 직관주의자들이 직관을 통해 수학을 타당하다고 할때조차, 그 직관은 어디서 비롯되었습니까? 우리가 육근으로 말미암아 받아들인 모든 것이 아뢰야식에 저장되어 그곳에서 어떠한 개념을 접했을 때 그것이 옳다 그르다를 판단하는 것이 아니겠습니까?


1이라는 개념도 우리가 무언가를 보고 저것이 1이다 하고 생각할 때 1이 생겨납니다. 즉 우리의 인지기관에서 완전히 독립된 객관적인 수학적 실체란 사실 존재하지 않습니다. 수학은 결국 인간의 발명품이고 그 발명은 우리의 인식에 기반하기 때문입니다. 따라서 수학의 확실성이란 단지 우리 모두가 그렇게 하기로 약속한 수학의 공통약속일 뿐 어떤 독립적이고 절대적인 것이 아닙니다.


그런 점에서 볼 때 수학은 결코 이해할 수 없는 괴물같은 무언가가 아니라 자연현상을 우리가 받아들이는 것에 바탕해서 설명한 해설일 뿐이고, 그렇게 생각하면 수학에 대해 좀 더 거리감이 덜 느껴지는 기분을 받았습니다. 이 책은 그래서 저에게 수학이 멀리 있는 무언가가 아니라 가까운 곳에 있는 것이라는 걸 깨닿게 해 준 좋은 책이었습니다.


물론 그럼에도 불구하고 수학은 여전히 어렵지만 말입니다.



================


오랜만에 쓴 독후감이라서 그런지 좀 허세가 많이 섞였는데 더 고치기 귀찮다...