대충 수학사 관련 책임


고대부터 수학의 혁명기까지는 익숙한 내용이 많아, 과거 학습의 기억을 따라 수학사의 흐름을 다시 짚어보는 느낌으로 읽었다. 중학교나 고등학교에서 배웠던 개념들이 생각보다 훨씬 이른 시기에 등장했다는 점은 흥미로웠고, 동시에 한 세기의 지식이 다음 세기에는 당연한 것으로 전제된다는 사실이 새삼스럽게 다가왔다. 한 개인이 일생을 바쳐 도달한 사고의 경지가, 후대에는 출발점이 된다는 것. 그런 방식으로 수학은 시간 속에서 축적되고 압축되어온 지적인 지형처럼 느껴졌다.

하지만 책을 읽으며 가장 인상 깊게 다가왔던 부분은 근대 수학이었다. 이전까지의 수학이 문제를 해결하고 계산을 가능케 하는 공식의 발견에 집중했다면, 근대 수학은 오히려 수학 자체가 서 있는 토대에 대해 질문을 던지기 시작한다. '이 체계는 얼마나 자명한가?', '우리가 의지하는 전제들은 과연 안전한가?' 하는 질문들. 계산의 수단이 아니라, 언어의 본질로서 수학을 다루기 시작한 것이다.

공리를 바탕으로 정의를 세우고, 그 정의에서 정리를 도출해 증명하는 구조는 마치 하나의 자율적인 세계를 구축하는 일처럼 보였다. 이 세계는 외부의 경험을 필요로 하지 않으면서도, 그 안에서 충분히 정합적인 논리를 만든다. 수학만의 언어는 그렇게 형성되고, 그것은 다른 학문과 구별되는 고유한 사유의 구조를 만들어낸다. 수학은 철학과는 분명 결이 다르지만, 나는 그 논리 구조에서 기인한 고유의 철학성을, 어렴풋이나마 느낄 수 있었다. 그것은 인간 이성이 가장 추상적인 수준에서 사고를 조직하고자 할 때, 자연스럽게 떠오르는 어떤 형태 같았다.

그렇지만, 그렇게 치밀하고 완결된 체계마저도 스스로를 완전히 담보할 수 없다는 사실은, 무거운 여운을 남겼다. 괴델의 불완전성 정리는 어떤 공리 체계도 자신 안의 모든 명제의 참과 거짓을 증명할 수 없다는 점을 밝혀냈다. 이는 수학이 자부해온 완전한 논리 체계라는 이상에 결정적인 흔들림을 주었다. 체계는 그 자체로 닫혀 있지 않았고, 오히려 스스로가 다 담아내지 못하는 부분을 필연적으로 갖게 되었다. 완전한 체계에 대한 기대는 그렇게 환상이 되었다.

이 지점에서 여러 생각들이 따라왔다. 논리 체계의 불완전함은, 그것이 인간의 사고로부터 비롯되었기 때문일까? 아니면, 인간이 아니라 어떤 존재가 만든다 해도, 체계라는 것의 본질이 어딘가 열린 채로 남아 있어야만 가능한 것일까? 이 질문들은 단순한 수학적 호기심을 넘어서, 인식과 존재, 언어의 가능성과 한계에 대한 질문으로 확장되었다. 어쩌면 우리는 끝내 다 증명되지 않는 것을 안고 사는 존재인지도 모르겠다. 그리고 그 빈틈이야말로 사고가 머무는 자리일 수도 있다.

이러한 지점에서 수학은 단순한 도구가 아니라, 스스로를 사유의 대상으로 삼는 학문이라는 점이 분명해졌다. 나는 자연스럽게 메타수학, 수리논리학 같은 분야에 흥미를 갖게 되었고, 정답 자체보다는 그 정답이 도출된 전제와 문맥, 조건들에 더 주의를 기울이게 되었다. 그 관심은 어느 순간 철학의 방식과 닿아 있었고, 수학이 철학과 외형적으로는 가장 멀지만, 사유의 방식에서는 가장 가까운 위치에 있다는 생각이 들었다. 아직은 명확한 결론에 도달하지 못했지만, 오히려 그 미결정 상태를 유지하는 것이 사고의 밀도를 지켜주는 일일지도 모르겠다.

책을 덮고 나서, 오래전 수학자들이 했던 말을 떠올려 보았다. 그들은 지금의 수학을 상상하지 못했을 것이다. 그렇지만 그들이 던졌던 질문은 여전히 살아 있고, 그 질문들은 시간이 흐르는 동안 모양을 달리하며 계속 반복되고 있다. 수학은 단지 지식의 축적이 아니라, 질문이 이어지는 방식으로 존재해왔다. 한 세대가 던진 질문이 다음 세대에게 또 다른 방식의 질문을 가능하게 한다. 그런 의미에서 수학은 일종의 연속된 사유의 궤적이다.

결국 수학은 ‘정답을 구하는 학문’이기 이전에, 어떤 문제를 ‘어떻게 묻는가’를 끊임없이 고민하는 학문이라는 생각이 들었다. 우리가 지금 당연하게 사용하는 이론들 역시 그 자체로는 완성된 것이 아니라, 누군가의 물음에서 시작된 사유의 파편들이었다. 그렇다면 앞으로의 수학은 또 어떤 방식으로 변화할까. 그 변화는 아마 지금 우리가 던지는 질문의 성격에 달려 있을 것이다. 수학은 그렇게 미래의 질문을 품고 있는 학문이고, 그 안에 나의 사유도 아주 작게나마 놓일 수 있다면, 그것으로 충분하다는 생각이 들었다.