스포일러 경고 기능이 추가됐습니다.
(펼침 메뉴 > 설정에서 변경 가능)
0ce5f575b08a1df023eb82e7409c706b69f4a2f604d159c996a46026362694539ae97c711d5099db01817d483cb72291f9a09eb4d1


*이 책을 한번 읽어본 사람이 훨씬 잘 이해할 것이라 생각함.
검색해보니 이 갤러리에서도 간간히 보이는 책이다. 수학 전반에 대한 교양서로는 매우 훌륭한 수준이다. 책은 고대의 수학에서부터 근현대의 수학 기초론까지의 수학적 사상을 보여주며, 이후 ‘길을 잃은’ 현 수학의 상태에 대해 고찰하며 마무리한다.

수학사를 다룰 때 철학은 빠질 수 없는 부분이다. 수학이 노예의 업무에서 자유민의 학문으로 탈바꿈할 수 있던 것부터가숫자의 형이상학적인 특성 덕분이니 말이다. 그러기에 이 책에서도 수과학의 역사와 더불어 동시대의 철학적 사상의 흐름을 간단하게나마 다룬다. 대부분의 독자에겐 철학보다는 수학이 더 익숙하다는 것을 감안하면, 철학에 대한 입문서로도 사용될 수 있을 것 같다.

책에 대한 칭찬은 이정도면 족하다. 이 글을 쓰게 된 이유는 거기에 있는 것이 아니니까 말이다. 수학을 공부하지 않는 일반인이 이 책을 읽는다면, 아마도 마치막 몇 개 단원이 제일 느끼기 힘들 것이다. 우선 책에서 주장하는 ‘순수수학에 대한비판’, 그리고 ‘수학의 과학적 방법(즉, 수학은 일종의 과학일 뿐만 아니라, 현실적 과학에서만 motivation을 받을 수 있다는 주장)’은 매우 과격한 주장의 일종이다. 책의 앞부분을 본다면 역사가 저자의 주장을 뒷받침하는 듯 보이지만, 사실은 결코 그렇지만은 않다.

수학이 영향을 주고받는 분야는 크게 세 가지이다. 하나는 위에서 언급했듯 철학이며, 하나는 현실(즉, 과학), 그리고 나머지 하나는 수학 그 자신이다. 저자가 비판하는 ‘순수수학의 고매함’은 철학 기원이라고 보는 것이 옳겠다. 이 고매한 정신은 고대 그리스의 유클리드 기하에서 기원했으며, 유클리드 기하의 공리적 체계는 이데아(정확히는, 준-이데아)의 일부로 취급되었으니 말이다. 철학의 도도한 수학은 과연 고전기의 그리스인들에게만 유효한 것일까?

물론 답은 ‘그렇지 않다’이다. 편의상 수학을 5개의 시대로 나눈다면, 고대 그리스의 기하학 시대, 아라비아의 대수학 시대, 근세 유럽의 미적분학 시대, 19세기의 해석학 시대, 그리고 20세기의 대수학과 현대수학 시대로 나눌 수 있겠다. 그리스인들의 공리 체계는 시대를 매우 앞선, 현대적인 발상이었다. 그러나 수학적 내용만으로 따지자면, 아라비아의 대수학 시대까지는 수학적 대상들의 기초만을 확립하는 시대라고 보아도 무방하다. 그러면 ‘수학의 발전’에 대해 유효하게 말할 수 있는 부분은 남은 세 시대가 되겠다.

미적분학 시대는 미적분학적 아이디어의 만개, 그리고 뉴턴과 라이프니츠의 미적분학 확립까지 언저리의 시기이다. 전공수준의 수학을 알지 못하는 이라도, 이 시기는 수학사에서 매우 중요한 위치에 있다는 것을 알 수 있다. 그러나 <수학의확실성> 저자 모리스 클라인은 약점을 보이지 않기 위함인지, 이곳에서의 사고를 독자에게 전부 보여주지 않는다. 미적분학적 아이디어들의 시원에는 아르키메데스가 있다. 그는 책에서도 소개된 실진법(method of exhaustion)을 이용해구의 부피나 표면적 등을 구한다. 실진법은 극한에 대한 일종의 우회-접근법이다. 이는 어떠한 식의 수렴값을 미리 예측한 뒤, 예측값과 다른 값으로 수렴한다면 모순이 발생한다는 식으로 논리를 전개하는 귀류법이다. 귀류법의 non-constructive-ness를 제쳐 두고서도, 이 엄밀해 보이는 방법은 무한의 회피라는 문제를 가진다. 극한 개념에서 필연적으로 동시에 등장한 무한을 회피하는 이유는 무엇일까. 그것은 아리스토텔레스적 세계관의 영향이다. 질료와 형상 중 우리가 실제로 경험하는 것은 형상. 질료는 마치 미술시간의 물감처럼 무한하지만, 형상은 유한하다. 그렇기에 유한한 것이자연스러운 것이고, 무한함은 미지의 것, 더 나아가 배척의 대상이다. 무한도 잘 모르는데, 어찌 수학적 무한을 아리오. 중세에 이르면서 이러한 기조는 달라진다. 인간의 것이 유한하다는 사실은, 우리의 직관에 비추어 인정할 수 있다. 하지만신의 것은 유한하지 않다. 무한은 미지의 속성이 아닌, 신적인 속성이다. 신의 것이라면, 마땅히 탐구해야 하지 않겠는가? 다음 부분은 예측할 수 있겠지만, 뉴턴과 라이프니츠가 확신을 가지고 미적분을 완성할 수 있던 것은, 결국 ‘자연학적 학문 원동력(여기서 자현학은 현실적 학문을 말한다)’이 아닌, 오래된 문제에 대한 제대로 된 고찰 덕분이다. 실제로 뉴턴의프린키피아에는, 수렴하는 극한의 무한적 형태에 대한 정당화가 담겨있다(예를 들자면, 그는 0/0 꼴의 극한에 대해 ‘사라지는 바로 그 순간의 사라지는 비’라고 강조해 말한다). 라이프니츠 역시 그의 단자론과 유사한 형태의 형이상학을 전개해 무한의 문제를 말끔히 해결한다. 미적분학이 왜 나오지 못했는가? 라고 묻는다면, 그것은 극한 개념이 확립되지 않았기 때문이다. 극한은 왜 나오지 못했는가? 그것은 순전히 무한에 대한 혼란스러운 생각이 극한의 올바른 성질을 짐작하지못하게 했기 때문이다. 결국, 어떠한 물리학 문제가 미적분학을 만들어 준 것이 아니다. 무한에 대한 가장 원시적인 아이디어가 연속적인 운동 등의 물리적 감상에서 온다 해도, 물리학적인 이유로 만들어진 것이 아니라는 말이다. 우리는 여기서, 미적분학 시대까지는 철학적 고매함이 여전히 큰 역할을 차지함을 알 수 있다.

해석학 시대에 벌어지는 대부분의 일에 대해서는, 작가의 말이 얼추 옳다. 해석학 시대의 막바지에 다다라서는, 확실히물리학자 역시 참된 수학자라고 여길 수 있게 된다. 허나 여기서도 할 말이 없는 것은 아니다. 작가는 수학의 확실성이 점점 떨어져 나오기 시작하는 근거로, 또 동시에 수학의 과학적 특성을 보여주는 근거로 비유클리드 기하학의 인식을 내놓는다. 후자인 수학의 과학적 특성에 대해 먼저 말하겠다(수학교육과를 나온 사람이라면, 라카토스의 준경험주의에 대해서도 같은 말을 생각할 수 있을 것이다). 과학적 방법, 쉽게 말하면 일종의 시행착오법은, 과학의 본질이 아니다. 과학의본질은, 현실과 결부된 과학적 내용에 있다. 물론 이거에 대해서는 매우 불만을 가질 사람들이 많을 것이다. 하지만 과학적 방법을 가진 것이 과학(도는 수학) 만이겠는가? 도자기 장인이 최고의 도자기를 만들 때, 요리사가 최고의 요리를 만들 때… 이들의 방법은 과학적 방법이 아닌가? (온전히 그 방법이 아닌 것은 안다. 하지만 그것은 수학도 마찬가지다) 도자기 장인과 요리사도 과학자라고 부르자고 한다면, 그때는 나는 작가의 말을 흔쾌히 인정하겠다. 하지만 그렇지 않다. 더 나아가면, 철학 역시 과학적 방법을 따른다. 아니, 과학적 방법의 정형은 애초에 자연 철학의 창시자인 아리스토텔레스에서 기원한다. 그럼 과학이 오히려 철학인 것인가? 대충 무슨 이야기를 하려는지 감은 잡힐 것이다. 수학이 수학적 내용을 가지는 이상, 또 “그 과정이 아닌 그 결과에 대해서” 연역이라는 단단함을 가진 이상, 수학의 특성을 과학에 얽매이게 하려는 것은 궤변에 가깝다. 그렇다면 이제 수학자들이 ‘사고의 방형을 바꾸는’것에 대해 전혀 ‘과학적’일 것은 없음을안다. 이에 비유클리드 기하가 수학의 확실성을 위협한 것은 아니라고 주장하겠다. 비유클리드 기하의 발견이 가져다 준혼란은 기하학에 대한 재고를, 확장하여 “수학적 체계”에 대한 재고를 불러일으킨다. 비유클리드 기하, 그리고 유클리드기하의 실제의 진리성은 더이상 중요한 것이 아니다. 둘의 공통분모를 뽑아, ‘기하학’이라는 더 큰 범주를 보게 된다. 이러한 더욱 메타적인 사고는 대수학과도 연결되는 사영기하학을 생각 가능케 한다. 기하학관이 파괴된 것이 아니라, 성숙해진 것이며, 그 과정에서 불확실한 것은 없다. 이때의 과정은 참된 기하학에 대해 아무것도 담보해 줄 수 없는 과학은 고사하고, 철학의 범주마저 벗어난 순수히 수학적인 특성의 것이다. 당시의 권위자였던 칸트는 유클리드 기하학이 실제로 참된 것임을 논증하기까지 했으니 말이다. 이 시기의 극후반에서 현대수학 시대로 이러지는 칸토어는, 수학은 자유로운 것이라고 말한다. 무언가가 존재하던 말던, 어떠한 관점에서는 그것이 잘만 성립하며, 또 단단하게 존립하는데, “진짜 참”이 대체 무슨 상관이란 말인가? 유도리와 자유의 학문인 수학의 형성과정은 결코 비극이 아니다.

다음으로는 대수학과 현대수학의 시대에 관한 것이다. 현대수학의 수학 기초론 학파들의 결론은 애석하게도 저자의 주장대로 참패가 맞다. 그 학파들의 주장을 그대로 따르기만 한다면 말이다. 그렇지 않은 길도 있다고 제안하는 것이다. 이들 학파의 공통점은, 수학의 완벽함을 끝까지 물고 늘어져 보임으로, 완벽하므로 이것은 신성하다고 주장하려는 것이다. 그러나 모든 학파의 연구에서 불완전함이 발견되었고, 불완전성 정리 등으로 수학의 근본 구조에 대한 회의마저 생기게되었다. 그러나 이것이 수학을, 과학과 같이, 인간의 조잡한 창조물이자 도구 정도로 전략하게 할 근거가 되는가? 오히려그 반대이다. 인간이 만든 것이라면, 왜 인간이 통제할 수 없는가? 수학이 근본부터 성립 불가능한 모순임이 증명되기라도 했는가? 아니다. 오늘날에도 수학은 여전히 단단함을 보장하며, 활발히 연구되고 있다. 어째서인지는 “아직도” 모르지만, 쓸만하다는 것이다. 불완전성은, 무가치가 아닌, 불가침성이다. 수학적 실체는 형이상학적 베일에 아직 쌓여 있는것이지, 함락당한 것이 아니다. 오히려 불가침의 성질을 가진다는 것이야말로 어쩌면 수학적 플라톤주의자들의 근거가될 수도 있겠다. 어쨌거나, 가장 나쁜 경우의 해석에서도, 우리는 ‘아직’ 수학의 신비를 ‘모르는’ 것이지, 수학이 이미 파훼된 것이 아니다.

마지막으로는 현대수학 시대의 가장 중심적인 분야 중 하나인 대수학에 대해 말하겠다. 대수학; 추상대수를 위시한 추상수학 은 해석학 시대 기하학이 겪었던 변화의 가장 훌륭한 유산이다. 수학을 전공하지 않은 사람의 대부분은 대수학을 방정식을 푸는 방법 정도로 생각할 것이다. 그러기에 현대 대수학의 정신을 가볍게만 적어 보겠다. 큰 틀에서 대수학은 대수구조, 그리고 그들 사이의 관계에 대한 학문이다. 대수구조는, ‘어떠한 수학적 대상들’의 모임이 항상 어떠한 성질을 만족하는 모임이다. 예를 든다면, ‘체’라는 구조는, 사칙연산이 자유롭게 성립하는 것을 조건으로 한다. 그렇기에 우리는 유리수체, 실수체 등을 말한다. 어떤 변수 x에 대한 모든 유리함수의 집합 역시 체이다. 대수학에서는 유리수의 성질 등이아닌, 체 일반의 성질을 규명한 뒤, 이것이 각각의 체에 적용될 수 있을을 ‘안다’. 각각의 내용물은 관심없다. 마치 기하학과 같이 말이다. 각각의 체가 존재하는지에 대해, 즉 대수구조의 참됨이나 무모순에 대해서 역시 생각할 필요는 없다. 내가 어떠한 구조를 선언한 이상, 이것은 있는 것이며 나는 이것을 살펴볼 수 있는 것이다. 즉, 극도의 자유도가 보장된다. 대수학적 사고의 기틀에는 자유가 깔려 있는 것이다. 불확실해 보인다는 것이 오히려 대상을 더 투명하고 확실하게 한다. 그리고 현대의 수학 대부분은 이 대수학의 언어로 번역되었다. 대수구조의 원소가 아닌, 대수구조 사이의 함수(사상)을생각하는 방식으로, 대수학, 아니 수학적 태도는 점점 더 자유를 찾을 뿐이다. 그러나 책에는 이러한 대수학의 특성에 대한 강조는 없다. 아니, 현대의 수학은 마치 기초론의 실패로만 끝나는 듯 보인다. 결국 바람직해지는 수학의 변화는, 황급한 단원 전환과 순수학문에 대한 맹렬한 비판으로 수습된다.

이 책이 쓰여진 80년대는, 대수기하학과 호몰로지 대수학 관련 도구들의 만개를 이미 만끽한 후의 시기였다. 계산이 아닌 상상의 수학이 현실화되던 시대였다. 그 시대에서, 수학의 발자취에 대해 누구보다도 더 잘 아는, 그리고 대수학의 형이상학적 즐거움을 그 어떤 예상 독자보다도 잘 아는 저명한 수학사가 모리스 클라인은 수학을 비판한다. 즉, 모든 것을알고 있는 그는 대중에게 일부만을 제공한다. 같은 작가는, 60년대에 “why Jonny can’t add”라는 책을 통해 당시 화두가 되던 ‘수학교육 현대화 운동’을 비판한다. 그에게 수학은 실용적이어야 하며, 유희가 되어서는 발전할 수 없다. 그러나 현재에 와서 실용적 수학의 분야에 종사하는 사람들은, 진정한 의미의 ‘수학자’라고 부르기 애매한 시대가 되었다. 그만큼 선택과 집중 없이는 수학을 관조할 수 없을 정도로 수학이 발전했다는 뜻이다. 그리고 그 발전은 순수수학자라고 불리는, 물리-수학자도 아니고 철학자도 아닌 인물들에 의해 이루어졌다. 그래서 클라인의 기대와 같이 수학의 종말이 다가왔는가? 수학은 무용지물이 되었는가? 반대이다. 수학의 선두에 있던 대수학은 컴퓨터 과학, 암호학 등에서 활발히 이용되었으며, 미분기하학과 같은 해석학 계열의 수학 역시 머신러닝 등 가장 필요한 곳에서 쓰이고 있다. 마치, 수학을 발견했더니 이것이 천문현상을 설명하는 중세시대의 ‘자연의 수학적 구조’와도 같다.

물론 수학이 희망적이며, 전적인 형이상학적 자유를 가진다고 말하기도 어려울지 모른다. 본인이 관심을 가진 분야가 대수기하학인 것의 영향을 받알을지도 모른다. 그러나 확실한 것은, 책에 있는 내용이 전부 동의할 수 있는 것은 아니라는사실이다. 특히나 저자가 책에 언급하지 않은 내용들을 알고 있는 사람이나, 현대적인 수학의 정신을 접한 사람이라면 말이다. 반대로 말하면, 그러한 것에 전혀 연이 있지 않은 일반적 독자는 알아채기 힘들다. 저자가 가린 부분들에 대해선 미처 생각하지 못하고, 저자의 해석에 설득될지도 모른다. 그것이 나쁜 것은 아니지만, 또 이러한 사실을 알게 되면 스스로도 언짢지 않은가?

주변에서 수학철학, 또는 철학을 가장 처음 입문한다고 할 때면, 나는 항상 이 책을 추천한다. 그만큼 완성도 있으며, 훌륭한 책이다. 수학의 메타에 대해 적극적으로 접근한다는 점에서, 지금까지 읽은 책 중에서는 이보다 나은 것이 없다. 비록나뿐만 아닌, 선도하는 수학자들에게도 강렬히 비판받은 적도 있으나, 그것에서 나오는 차별점이야말로 이 책을 교양 이상으로 진지하게 생각해볼 만한 가치가 있게 만든다.