https://www.hellodd.com/news/articleView.html?idxno=97299

김 교수는 "모델론 연구자는 수학적인 구조들을 통합적으로 이해하고 싶어 한다"라며 다음과 같이 얘기했다. "모델이라는 건 그냥 어떤 수학적인 대상, 수학적인 구조다. 군(group)이라든가, 체(field), 또는 그래프(graph)가 다 모델이다. 이런 걸 통합적으로 이해하려고 하는 거다. 군, 체, 그래프라고 얘기했지만 가장 단순한 수학적인 대상으로 자연수가 있다. 자연수 집합이 있고, 덧셈, 곱셈이라는 집합의 연산이 있고, 그 다음에는 크고 작음이라는 숫자들의 관계가 있을 수 있다. 이런 수학적인 구조들이 많다. 이런 게 수학적인 대상이고, 이것들이 모델론의 대상이다. 그러면 기존의 수학 분야 연구와 모델론 연구의 차이는 무엇인가? 모델론은 논리식 관점으로 수학적인 대상을 본다. 논리식은 논리 기호들로 표시되는 식이다."김 교수가 보여주는 걸 보니 논리 기호 { ∀,∃, [,] →, ∧, ∨}가 보인다. 그가 구체적인 대수 식 하나를 보여준다. 'x-y = z²'. x에서 y를 뺀 게 제곱수라는 걸 말하는 수식이다. 이 식을 만족하는 x, y, z 값이 있을 거다. 그런데 'x-y = z²'식 앞에 논리 기호 몇 개를 붙인 걸 그가 다시 보여 준다. '∀xy∃z'라는 논리 기호들이 붙어 있다. 전체 식의 모습은 이렇다. ∀xy∃z (x-y = z²). 이 게 '논리식'이다. 모델론에서 사용하는 논리식이다. 이 식이 뜻하는 건 '모든 x, y에 대해 다음 식(x-y = z²)을 만족하는 z가 존재한다'이다. 과연 이 식은 성립하는 것일까? 성립하면 어디 수 체계, 수의 집합에서 성립할까? x와 y가 어떤 자연수인가에 따라 z값은 자연수일수도 무리수일 수도 있다. 다시 말하면, 위의 논리식은 자연수 체계에서는 거짓이고, 복소수 체계에서는 참이다. 김 교수가 하려는 얘기는 앞의 '논리식'은 특정 수식이 참인지, 거짓인지 알 수 있는 정보를 준다는 것이다. 그는 "식 하나가 굉장히 많은 정보를 준다. 어떠한 때는 참이고 어떠한 때는 거짓이다. 또 무엇을 대입하느냐에 따라서 참과 거짓이 달라진다는 걸 보여준다"라고 말했다. 이런 걸 통해 모델론 학자는 대수적인 구조를 연구한다. 기존의 대수학 관점이 아니고, 논리식을 갖고 연구한다. 김 교수는 "기존의 대수적인 방법뿐 아니라, 수리논리학이 수리논리 관점에서 새로운 방법론을 제공하는 거다. 그게 수리논리학의 모델론이 하는 주 역할이다"라고 말했다. 대수적인 관점에서 설명하지 못한 걸 모델론으로 설명한 게 있느냐고 그에게 물었다. 그는 "모델론의 관점으로 많은 시도가 있다. 1990년대부터 본격적으로 수학의 굵직굵직한 문제들을 증명하기 시작했다. 최근에 굉장히 성공한 게 여러 가지가 있다"라며 표현론과 관련한 힐베르트 5번째 문제,  대수기하의 그리피스(Griffiths) 추측, 그리고 산술기하와 관련한 안드레-우트(Andre-Oort) 추측을 예로 들었다. 안드레-우트 추측은 아주 최근에 풀렸다. 논문이 사전 공개 사이트(archive)에는 올라왔고, 학술지에는 아직 출판되지는 않았다. 영국 옥스퍼드대학교의 조너선 필라(J. Pila) 교수가 증명했다. 김 교수가 다시 "모델론 연구가 지금 엄청 활발하다. 내가 공부할 때와는 달리 대단히 핫하다"라고 강조했다.


모델론이란 도구의 쓸모

KAIST 연구 교수로 일하는 이정욱 박사가 공략한 모델론 문제가 있다. 이 박사는 김병한 교수 지도를 받아 연세대학교에서 2016년 박사학위를 받았다. 김 교수는 "이정욱 박사가 아주 잘한다"라며 다음과 같이 설명을 이어갔다.

"유리수 집합(Q) 위에 정의되는 타원곡선이 있다. 타원곡선이 있으면 그거에 급수(rank)라는 게 있다. ‘급수’가 무엇인지는 말하지 않겠지만 타원곡선의 급수는 0, 1, 2,…와 같은 자연수다. 그러면 타원곡선은 무한히 많은데, 그 모든 급수에는 절대 상계가 존재할까 하는 게 알려지지 않았다. 숫자가 계속 커질 것인가 하는 걸 사람들은 궁금해 했다. 많은 사람이 예전에는 절대 상한선, 상계가 없을 거라고 생각했다. 급수들이 처음에는 어떤 수이고, 다른 어떤 건 100이고, 어떤 건 2000이고, 또 2만이고 하는 식으로 계속 증가하며, 그런 식으로 한없이  증가할 거라고 생각했다."

설명을 잘 이해하기 힘들었다. 그러자 그가 다음과 같이 취재 수첩에 글을 써줬다. 좀 나았다. 어쨌든 이건 정수론 문제다. 급수의 절대 상계, 즉 절대 상한선이 존재한다는 걸 증명하는 문제다. 이 문제를 전체는 아니고, 부분적으로 해결한 사람이 있다. 미국 프린스턴대학교 수학자 만줄 바르가라(Manjul Bhargara)다. 그 공로로 그는 2014년 서울에서 열린 세계수학자대회에서 수학의 노벨상이라는 필즈상을 받았다. 김 교수는 "부분 해결만 해도 필즈상이 갈 정도로 이 문제는 중요했다"라고 말했다.

이정욱 박사는 그럼 뭘 했나? 정수론 문제를 모델론 문제로 바꾸는 작업을 해냈다. 김 교수가 '정수론' 분야에서 정의된 문제를 가령 1번이라고 하자고 했다. 이 박사는 모델론을 사용해서 1번 문제를 표현해냈고, 이걸 2번이라고 해보자고 했다. 이정욱 박사가 한 일은 1과 2가 동등하다, 즉 같다는 걸 증명한 거다. 김 교수는 내게 "모델론으로 그 문제를 해결했다고 하는 게 아니다. 그렇게 쓰면 큰 일 난다. 대수적으로 보지 못하는 걸 모델론으로 볼 수 있는 게 뭐있는지를 내가 지금 예를 들어 설명하는 거다"라고 말했다.

그리고 김 교수가 모델론으로 표현한 문제 2가 뭔지를 설명해줬다. 나는 그 말을 이해할 수 없었다. 김 교수가 나의 취재 수첩에 몇 줄로 핵심 개념을 써줬다. 역시 이해하기 쉽지 않으니, 이곳에 쓰지 않기로 한다. 김 교수는 "말하자면 모델론이 기존의 문제에 새로운 관점을 주는 예"라며 "정수론 문제를 모델론 관점의 모델론 연구로 바꿔버렸다. 그래서 정수론 문제가 이제는 모델론 연구자가 풀어야할 문제가 되었다"라고 말했다.

그렇기에 요즘 정수론 연구자들이 모델론을 공부한다. 앞에서 안드레-우트 추측 문제가 모델론으로 풀린 바 있다고 한 바 있다. 안드레-우트 추측을 푼 사람은 순수 정수론 연구자였다. 그가 모델론을 공부해서 모델론 도구를 사용해서 안드레-우트 추측이 옳다는 걸 증명했다. 김 교수는 "수학의 다른 분야 연구자들이 모델론을 공부해서 자신의 연구를 하겠다고 해서 모델론 연구가 활발하다"라고 말했다. 그런데 한국에서는 모델론 연구자가 아웃사이더다. 이정욱 박사의 경우 박사학위를 받은 지 6년이 되었으나, 대학에 자리를 잡지 못했다고 그는 안타까워했다.

김병한 교수의 모델론 분야에서 연구는 무엇이 있을까? 그는 앞에서 모델론 역사를 설명하면서 이 분야의 주요 기여자 중 한 명으로 사하론 쉘라 히브리대학교 교수를 언급했다. 김 교수에 따르면, 쉘라는 모델론에서 어떤 특정한 성질을 갖고 있는 대상을 연구했다. 안정성이 있는 구조다. 김 교수는 안정성을 뛰어넘는 훨씬 더 큰 클래스에서 연구가 가능하다는 걸 증명했다. 그가 '더 큰 클래스'라고 말한 게 '단순성 이론(simplicity theory)'이다.
그는 1990년대 중반 관련 연구를 시작했고, 쉘라가 내내 연구한 '안정성'이 자신이 연구한 '단순성'에 포함된다는 걸 알아냈다. 그러니 안전 구조는 단순 구조이지만, 역으로 단순성을 만족시키는 구조 중에는 안정 구조가 아닌 게 많다. 이게 김병한 교수의 미국 노트르담대학교 수학과 박사학위 논문 내용이다. 그는 연세대학교 수학과 81학번이고 노트르담대학교에서 모델론으로 박사공부를 해서 1996년에 학위를 받았다. 지도교수는 아난드 필래이(Anand Pillay) 박사. 모델론 연구자다.

그의 '단순성 이론'은 영국 옥스퍼드대학교 출판부가 책으로 출판했다. 학회로 찾아온 출판부 직원이 출판을 제안했고, 2014년에 책으로 나왔다. 이 책은 학자로서 그의 공로를 인정받은 또 다른 징표다. 단순성 이론을 그가 내놓은 뒤 사람들이 달려들어 10년 이상 연구들을 많이 했다. 그 정도하면 연구할 게 바닥난다. 그럴 즈음에 ’단순성‘보다 더 큰 수학적인 구조가 있다는 게 알려졌다. 그건 NSOP1라고 불린다. 2000년대 초반에 쉘라가 그런 걸 정의해 놓기는 했다. 무슨 신탁을 받은 것인지,그 의미에 대한 깊은 설명이나 예상이 없이 정의를 했다.

"나는 1995년 ’단순성 이론‘에서 ’쉘라의 독립성=김의 독립성(Kim’s Independence)’ 관계가 성립함을 증명했다. 하지만 NSOP1에서는 이게 성립하지 않는다. 두 개가 같지 않다. NSOP1에서는 ‘쉘라의 독립성‘은 사용할 수 없고, ’김의 독립성‘만 사용해야 한다."

김 교수는 "NSOP1에서 ’김의 독립성‘만을 사용해서 앞에서 한 것과 같은 뭔가 비슷한 일을 할 수 있을 거라고 2009년에 예측했다”라고 말했다. 캐나다 록키산맥 휴양지에 있는 밴프에서 2009년 모델론 학회가 열렸고, 이 자리에서 김 교수는 그 예측을 했다. 그리고 ’김의 독립성‘ 추측이 옳다는 증명이 2017년에 나왔다. 니콜라스 램지(미국 캘리포니아대학교 버클리 캠퍼스 박사)와 이스라엘 히브리 대학교의 이타이 카플란 교수 두 사람의 연구 결과다. 논문은 2020년 수학학술지 ‘JEMS’(Journal of The European Mathematical Society)에 실렸다. 이들 논문 제목인 ‘김의 독립성(On Kim-independence)’에서 ‘김의 독립‘이라는 표현이 처음 나왔다. ’김의 독립‘이라는 건 김병한 교수가 붙인 게 아니고, 그들이 그 개념을 찾아낸 연구자에 대한 오마주로 그렇게 불렀다.

김 교수는 이후 니콜라스 램지와 공동 연구를 했고, 더 크게 확대된 결과가 나왔다. 니콜라스 램지 박사는 최근에 그 연구에 힘입어 미국 노트르담 대학교 조교수로 임용됐다. 김 교수는 "NSOP1은 나름 핫한 주제다. 그리고 나는 또 하나의 문을 열었다라고 생각한다"라고 말했다. 그는 이어 "나는 지금까지 큰 주제의 문을 여는 연구를 몇 번 했다"라고 말했다. 1996년 학위논문은 옥스퍼드대학교 출판부가 책으로 낼 정도로 주목을 받았고, 15년 가까이 다른 사람들이 집중할 수 있는 새로운 문을 여는 연구였다. 그리고 두 번째 문은 2009년에 시작했고 최근까지 계속하고 있는 NSOP1과 김의 독립성 연구다. 그리고 세 번째 문은 2013년 경에 시작한 호몰로지 이론이다. 호몰로지 이론과 모델론을 결합시킨 연구라고 했다. 그게 무엇인지는 묻지 않았다. 앞에서 언급했던 이정욱 박사의 연구가 그 쪽 분야와 관련이 있다고 했다.김 교수는 "나는 위대하거나, 뛰어난 사람도 아니다. 사실 그런 얘기를 하기는 창피하고 그래서 잘 안하기는 하지만 실패를 많이 겪었다. 지금도 실패를 많이 겪고 있다"라고 말했다. 그는 노트르담대학에서 박사학위를 한 뒤, 버클리에 있는 수학연구소 MSRI에서 박사후연구원으로 있었고, MIT 조교수가 되었다. MIT에 있을 때인 2000년인가, 서울대학교에 갈 기회가 있었으나 가지 않았다. 서울대에는 훌륭한 학자가 많으니, 그곳에 가기 보다는 연세대에 가면 더 기여를 할 수 있지 않을까 하고 생각했다. 그래서 2005년 연세대 교수가 되었다. 그가 당시 서울대로 가는 선택을 했으면, 한국의 수리논리학을 더 키울 수 있었을지도 모른다. 김 교수는 "수리논리의 역사는 소수자의 역사"라고 했다. 앨런 튜링도 그렇고, 폴 코언(1966년 필즈상)도, 게오르크 칸토어(1845-1918)도 학계에서 마이너리티였고, 여러 어려움을 겪었다. 김 교수는 "그분들이 정신병에 걸리고 자살하고 그랬다. 그게 이해가 된다"라고 말했다. 김 교수는 이어 "내 경우도 다 얘기하기는 많이 힘들다. 연구비를 신청할 때도, 제자들이 취업을 하는데도 어려움이 많았다"라며 "모델론 연구자들이 많이 노력을 해서 모델론이 수학의 중심 분야에 더 갈 수 있게 되고, 후학들이 좀 더 수학의 중심에서 활동할 수 있으면 좋겠다는 희망을 갖고 있다"라고 강조했다.  김병한 교수 방에는 모델론을 개척한 타르키스의 영어판 전기가 있었다. 그는 타르키스의 전기를 나중에 번역할 계획이다. 그리고 모델론과 수리논리 관련 몇 권의 책을 쓸 계획을 갖고 있다.