스포일러 경고 기능이 추가됐습니다.
(펼침 메뉴 > 설정에서 변경 가능)
"만일 내가 잠들어 1,000년 뒤에 깨어날 수 있다면, 리만 가설이 증명되었는지를 가장 먼저 묻고 싶다."
1900년 8월 8일 제2차 국제수학자회의 초청 강연에서 당시 수학계를 이끌던 독일 수학자 힐베르트가 한 말이다. 힐베르트는 그 강연에서 '20세기 수학 발전을 위해 해결해야 할 수학 난제 23개'를 제시했는데, 이 중 8번이었던 리만 가설을 가장 해결하기 어려울 것으로 보았으며 실제로 리만 가설은 23개 중 오늘날까지 해결되지 않은 3개의 난제 중 하나로 남았다.
리만 가설이란 소수의 비밀을 연구하던 독일 수학자 리만이 제기한 것으로 "리만 제타 함수의 자명하지 않은 해의 실수부는 모두 1/2"이라는 것이다. 아마 참일 거라고 예상되기는 한다. 수학계에서 진정으로 묻는 것은 이 리만 가설이 과연 진짜로 참인지 증명할 수 있느냐는 것이다.
>독일의 수학자 베른하르트 리만과 그가 리만 가설을 연구한 자료.
고대 그리스 시대부터 1과 자기 자신으로만 나누어지는 수인 소수(素數, Prime number)의 특별한 성질은 널리 알려져 있었다. 유클리드는 소수의 개수가 무한하다는 사실을 증명했고 에라토스테네스는 소수를 찾아내는 원시적인 방법을 개발했다. 하지만 무한히 많다는 소수를 에라토스테네스의 방식으로는 소수를 빠르게 찾는 것이 불가능했고, 소수는 분포가 워낙 불규칙하고 예측 불가능하여 어떠한 패턴도 찾아낼 수 없었다.
18세기의 천재 수학자 오일러도 소수의 비밀에 도전했는데, 이내 자신의 능력을 넘어섬을 직감하고는 포기하고 이렇게 말했다고 한다.
"소수에는 인간의 지성이 범접할 수 없는 신비가 있다. 이를 실감하려면 소수의 표를 잠시 살펴보기만 하면 된다."
이런 상황에서 리만은 소수가 자신이 개발한 제타 함수를 통하면 그 영점들이 모두 한 선에 수렴한다는 점을 발견한다. 즉 소수 그 자체에서는 어떠한 규칙성도 발견할 수 없었던 반면, 소수가 리만의 제타 함수를 거치면 그래프 상에서 정확히 일렬로 정렬하는 패턴을 보여준다는 것이었다. 이를 리만의 특이선이라 부르며, 이는 불규칙해 보이는 소수의 분포에도 어떤 규칙이 있음을 암시하는 것이 분명했다.
이후 리만은 한없이 계산을 계속하여 자신이 계산한 범위 내에서는 영점의 분포가 모두 특이선을 따라 정렬해 있음을 확인했다. 하지만 점점 큰 소수 자체를 찾아내기도 어려웠음은 물론이고 소수는 무한히 많기 때문에 계산은 점점 인간의 한계를 넘어서게 된다. 이후 컴퓨터가 상용화되면서 많은 수학자들이 컴퓨터를 통해 계산을 계속했고, 컴퓨터를 통한 계산조차 한계에 이를 정도까지 계산한 오늘날까지도 제타 함수의 해는 리만 가설에서 어긋나지 않는다.
상황이 이러니 요즘 수학자들은 리만 가설은 참일 것이라는 가정 하에서 계산과 증명, 연구를 진행하곤 한다. 그토록 많은 계산에서 모두 예외가 없었는데 설마 그 이상에서 예외가 나오겠느냐는 생각들인 것이기도 하고 현실적으로는 예외가 있는지조차 확인이 불가능하기 때문이다. 하지만 단 하나라도 예외가 발견된다면 리만 가설은 물론, 리만 가설이 참일 것이라는 가정 하에 나온 모든 연구가 한순간에 허물어지는 것이며 이는 현대 수학과 과학, 수론의 근간을 흔드는 위기가 될 것이다.
>리만 가설과는 별개로 가우스 함수는 10의 10승의 10승의 34승부터는 예측에서 벗어날 것으로 예상된다고 한다. 이는 매우 터무니없이 큰 숫자이며 리만 가설과는 큰 연관이 없다고는 하지만, 리만 가설에서도 이 가우스 함수처럼 한없이 계산을 계속하다 보면 언젠가 특이선을 벗어난 경우가 나타날 수도 있음을 시사한다.
이런 배경 속에서 책은 리만 가설을 중심으로 고대, 중세, 근대와 현대에 이르기까지 수학의 발전사와 수학계의 거물들을 소개하며 소수의 비밀을 풀기 위해 리만 함수 증명에 도전한 수많은 수학자들의 이야기를 들려준다. 심지어 수학자 뿐만 아니라 오늘날 통신회사들과 보안 기업들조차 소수와 소인수분해의 원리를 이용한 보안 기법의 개발 및 유지 보수를 위해 자체적으로 소수 연구를 계속하고 있다고 한다.
책에서 가장 흥미로웠던 점은 이 리만의 제타 함수의 영점들의 간격을 나타낸 그래프가 물리학에서 사용하는 "임의 에르미트 행렬(random Hermitian matrix)"의 고유값들이 보여주는 그래프와 똑같다는 것으로, 수학과 양자역학이라는 서로 다른 과학 분야에서 연관성이 밝혀진 대목이었다.
임의 에르미트 행렬이란 무거운 원자들과 핵이 낮은 에너지의 중성자와 부딪혔을 때 나타나는 에너지 레벨의 구조를 이해하는 데에 사용된다는 물리학 도구인데 이런 양자역학적 분야에서 소수의 성질을 품은 제타 함수의 영점 그래프가 나타난다는 점이 매우 신기하다. 이 발견 이후 수학계는 리만 가설 연구를 위해서 물리학계와 긴밀한 협력이 필요하다는 입장과, 수론은 지금까지 그래왔듯 수학자들만의 기교로 해결 가능하다는 입장이 서로 대립 중이라고 한다.
이전에 읽었던 책인 「맥스 테그마크의 유니버스」에서도 물리학자인 저자는 '자연이 곧 수학 그 자체'라는 주장을 펼쳤던 것이 생각난다. 자연을 설명하는 물리학과 수론의 연관성이 계속해서 대두되고 있는 오늘날, 아직 요원한 자연과 우주의 신비를 파헤치기 위해선 수학과 여러 과학 분야가 긴밀히 협력해야 할 것이라고 생각한다.
책의 결론은 아직까지 리만 가설은 증명되지 않았고 언제 증명될 수 있을지조차 예측이 불가능하다는 것이며 이는 책을 굳이 집어 들지 않았더라도 알 수 있을 것이다. 하지만 나처럼 소수 연구의 역사와 소수 그 자체에 관심이 많은 사람이라면 매우 흥미로울 내용들이 가득하기에 필독하기를 권한다.
여담으로 책의 제목이 조금 아쉽다. "소수의 음악" 제목만 봐서는 무슨 소수 민족의 전통 음악에 관한 책인 줄로만 알았다.
'불규칙한 거 같은데 규칙이 있습니다' 참 오묘한 두통 같다. 그리고 그 머리 아픈 느낌이 뭔가 괴델에셔바흐 생각도 남.
리만 가설은 볼 때마다 참 흥미로워
저거 증명하려다 조현병 걸린 사람도 있고 참.... 개판이다
The Music of the Primes 2003년 어떤 제목이 좋았으려나
작년에 리만 가설 증명했다고 어그로 끌었던 마이클 아티야도 '본인 말로는' 리만가설을 최종적으로 미세구조상수(fine structure constant)와 결부시켜서 풀었다고 얘기했지만 노망으로 밝혀졌고... (대단한 수학자였음을 부정하는 사람들은 없었으나 이미 저때는 노망드셨다는 평이 지배적이었고 그 발표 했을때 학계의 반응은 조롱이었다기보단 안타까움이었음) 뭐 리만가설이랑 별개로 순수하게 수학쪽에서 파인스트럭쳐 컨스탄트 계산해서 실제값이랑 같음을 보이면 대박이긴 하지만 글쎄다.
딱히 타오를만한 이슈는 아니었음. 사실 과학이나 수학이나 학계에서 촉발된 연구나 성과가 논란이 되어 세간의 이목을 끌때쯤이면 사실 학계 내부에서는 잠정적으로 결판이 난 경우가 대다수임. 예를들어 옛날에 중성미자가 광속보다 빠르다고 옘병할때 실험적으로 확실하게 재검증해서 부정될때까지 6개월인가 1년 걸렸지만 이미 학계에서는 첨부터 뻥이라고 받아들인 상태였고, 반대로 힉스입자의 경우 첫번째 시그널이 발견되고 그 시그널이 진짜 힉스인지 재검증될때까지도 좀 시간이 걸렸지만 힉스입자의 경우 첫 시그널부터 학계에서는 잠정적으로 힉스입자 맞다라고 받아들여진 상태였고.