[엄상일 교수가 설명하는 허준이 교수 업적] 난제인 조합수학을 대수기하학이란 도구로 해결한 아이디어맨
지금으로부터 12년 전인 2010년 6월의 어느 날 특이한 연락을 받았다. 서울대에서 미국 일리노이주립대 대학원으로 유학을 간 지 얼마 안 된 학생이 조합수학과 이산수학 분야의 오래된 추측을 증명했는데, 방학 때 한국에 온 김에 기회가 되면 연구 내용을 발표하고 싶다는 것이다. 서울대에서도 이미 발표를 한 적이 있지만 내용을 볼 때 KAIST에서도 발표하는 게 좋을 것 같다며 서울대 교수 한 분이 KAIST교수에게 이메일을 보낸 것이다.
필자는 이산 수학 세미나를 운영하고 있었기 때문에 자연스럽게 그 연락을 전달받았다. 당시 메일의 주인공이자 유학을 간 지 얼마 안 된 학생이 바로 필즈상 수상자인 허준이 프린스턴대 교수이다. 허 교수는 현재 미국 프린스턴대 교수이자 고등과학원 교수로 활동하고 있다.
필자도 처음에는 이것을 어디까지 믿어야 할지 알 수 없었다. 안그래도 필자는 ‘각의 3등분을 할 수 있다’거나 ‘4색 정리를 증명했다’라는 식의 엉터리 이메일을 종종 받아왔다. 그때까지만 해도 지도교수도 정해지지 않은 박사과정 학생이 조합수학 분야의 오래된 미해결 문제를 해결했다고 하니 믿기가 쉽지 않았다. 논문도 전달받았는데 공저자도 없고, 학술지에 보내기도 전이라 추측을 푼 게 맞는 건지 확신하기도 어려웠다.
허 교수는 2010년 7월 9일 대전 유성 KAIST 본원에서 열린 이산수학 세미나에 와서 자신의 증명을 발표했다. 당시 촬영한 동영상이 유튜브에 올라와 있으니 관심 있는 분들은 한 번 보시기 바란다. (관련영상 https://www.youtube.com/watch?v=MSUSQw12j_c ) 지금 봐도 박사 1년 차 학생이라고 믿기 힘든 강의 내용이다. 당시 서울대 수리과학부에는 조합수학을 전공한 교수가 없어서 이런 문제를 배울 기회가 없었을 텐데 이제 갓 유학을 간 학생이 어떻게 이런 문제에 손을 뻗게 된 것인지부터 궁금했다.
박사 1년 차 때 난제 해결
허 교수가 박사 1년 차일 때 풀었다고 한 추측은 세 가지나 된다. 먼저 '그래프 이론'에서 나오는 채색 다항식의 계수에 관한 문제인 ‘리드의 추측(1968년)’과 이보다 조금 더 강한 추측으로, 벡터 공간의 벡터 집합이 만들어내는 ‘매트로이드(matroid)’라는 구조에서 나오는 수열에 관한 ‘로타의 추측(1971년)’과 ‘웰시의 추측(1976년)’이다. 이때 로타의 추측과 웰시의 추측은 특수한 경우에 대해서만 증명을 했다.
그래프 채색 다항식의 계수에 관한 리드의 추측은 매트로이드에서 로타의 추측을 풀면 해결되는 것이라, 이 글에서는 로타의 추측 및 웰시의 추측을 설명하면서 시작하겠다. 매트로이드는 1935년 미국인 수학자 해슬러 휘트니가 행렬의 선형독립에 관한 성질을 추상화해서 만든 수학적인 대상이다. 따라서 로타 추측이나 웰시의 추측의 간단한 경우는 행렬로 설명할 수 있다.
어떤 mxn행렬이 있다고 가정합시다. 이 행렬의 열이 1부터 n까지의 수를 가리킨다고 합시다. 만일 {1, 2, … , n}의 부분집합 X가 있다면, 행렬에서 X에 속한 열만 뽑아서 그 열벡터를 가지고 선형결합 해 만들 수 있는 벡터 공간의 차원을 r(X)라는 함수로 써봅시다. 매트로이드에서는 이것을 ‘X의 랭크’라고 부릅니다. 이때 aₖ를 랭크가 k이면서 원소의 개수가 짝수인 X의 개수와 랭크가 k이면서 원소의 개수가 홀수인 X의 개수의 차이라고 합시다.
1971년 미국 매사추세츠공대(MIT) 진 카를로 로타 교수는 수열 |a₀|, |a₁|, |a₂|, …은 한 번 감소하기 시작하면 계속 감소한다는 추측을 제시했다. 영국 옥스퍼드대 도미니크 웰시 교수는 1976년 출판한 책에서 로타의 추측보다 조금 더 강한 추측을 제기했다. 웰시는 aᵢ²≥│aᵢ₋₁│·│aᵢ₊₁│이 모든 i에서 성립한다고 추측했다.
이런 부등식을 만족하는 수열을 ‘로그-오목’하다고 하는데, 로그-오목이면서 양수인 수열은 한 번 감소하기 시작하면 계속 감소하기 때문에 로타의 추측보다 더 강한 추측이다.
첫 단독 논문으로 수학계 스타로 자리매김
허 교수는 혼자 쓴 2010년 논문에서 로타의 추측과 웰시의 추측이 행렬에서 참이라는 것을 증명했다. 특히 실수를 사용해 표현된 행렬뿐만 아니라, 표수가 0인 체 위에서 표현된 행렬에서도 참이라는 것을 보였다. 초중고에서 배우는 실수, 복소수 등의 수체계는 표수가 0인 체이다.
그런데 이 추측을 증명하면서 조합수학의 방법론은 쓰지 않았다. 그러니 세미나를 다 들어도 그 결과가 중요하고 흥미로운 것은 잘 알겠는데, 증명의 스케치는 대수기하학 이야기가 대부분이라 대수기하학을 공부하지 않은 필자는 이해하기는 어려웠다. 허 교수는 대수기하학 분야를 공부하면서 알게 된 내용을 그래프이론에 접목하면 어떻게 될까 생각해 보다가 추측해 풀었다고 했다.
두 분야 중간에 서서 양쪽 언어를 동시에 구사하면서 대수기하 분야의 연구 결과와 아이디어를 활용해 조합수학 분야의 문제를 해결한 것이다. 이때 쓴 허 교수의 논문은 2012년 권위 있는 수학 학술지 중 하나인 ‘미국수학회지’에 출판됐다.
허 교수가 이들 문제를 풀게 된 것은 석사과정 시절 서울대에 몇 년간 계셨던 필즈상 수상자였던 일본인 수학자 히로나카 헤이스케 교수로부터 배운 것을 가지고 그래프에서 나타나는 현상을 관찰하다가 알게 된 것이라고 한다. 허 교수는 서울대 수리과학부에서 석사 학위를 받았다.
2010년 12월에 허 교수는 박사과정 입시에 지원했다가 떨어졌던 미국 미시간대 초청으로 세미나 발표를 갔다. 2017년 《콴타 메거진》에는 허 교수가 방문하기 전에 미시간대 수학과 시니어 교수가 그 대학 박사후연구원에게 ‘허준이 교수가 유명해지기 전에 세미나 들었다는 것을 30년 후에 자랑할 수 있을 테니 꼭 세미나 들어보라’라고 했다는 이야기가 소개돼 있다.
허 교수는 그 후 2011년 미시간대의 대학원생으로 학교를 옮기게 되었고 웬만한 박사 후 연구원보다 좋은 연구를 하는 대학원생 신분으로 지냈다. 신분만 대학원생일뿐 이미 그때부터 여러 국제학회 및 워크숍에 초청강연자나 기조 강연자로 강연했다.
좋은 동료 연구자와 함께 로타의 추측 해결
허 교수는 2010년 세미나에서는 ‘로타의 추측과 웰시의 추측이 표수가 0이 아닌 체 위에서 표현된 행렬에서는 거짓일 거로 추측한다’고 말했다.
허 교수는 당시 미국 오스틴 텍사스대에서 박사 후 연구원으로 일하던 에릭 카츠 미국 오하이오주립대 교수가 인터넷에서 논문을 읽고 연락해 몇 달간 공동 연구를 하게 됐는데, 이때 표수가 0이 아닌 체 위에서 표현된 행렬에서도 같은 추측을 증명했다. 1년 전 세미나에서 거짓일 거로 예상했던 추측이 참이라는 것을 증명한 것이다. 허 교수는 2011년 7월에 다시 KAIST에 와서 새로운 결과를 발표했다.
2012년에 네덜란드에서 열린 그래프 및 매트로이드 워크숍에 갔더니, 첫날 아침 9시 첫 강연을 당시 대학원생이던 허 교수가, 두 번째 강연은 카츠 교수가 하는 것을 봤다. 한동안 허 교수는 로타의 추측과 웰시의 추측을 행렬뿐만 아니라 행렬을 추상화하는 매트로이드 전체에서 증명하려고 노력하고 있었다. 행렬로 표현되는 경우에는 기존 대수기하학의 이론을 적용하기가 더 편리했는데, 행렬로 표현되지 않는 일반적인 매트로이드에서도 똑같은 것을 하려면 대수기하학 이론을 바로 적용할 수가 없었다. 아예 대수기하학의 어려운 이론을 조합적인 상황에 맞게 비슷하게 새로 만들어 나가야 했다.
허 교수는 이 문제를 풀기 위해 카림 아디프라지토 이스라엘 예루살렘 히브리대 교수와 교류하며 힘을 합쳤다. 결국 2015년에 허 교수는 아디프라지토 교수, 카츠 교수와 함께 로타의 추측 및 웰시의 추측 전체를 증명한 논문을 공개했다. 매트로이드 전체에서 문제를 해결한 것이다. 여기에 더해 ‘메이슨의 추측’도 해결했다. 이 논문은 2018년 수학계 권위 있는 학술지 중 하나인 ‘수학연보’에 실렸다.
1972년 존 메이슨은 행렬에서 랭크가 k인 부분행렬을 만들어내는 열의 집합 X의 수를 aₖ라 할 때, 수열 a₀, a₁, …이 로그-오목이라고 추측했다. 아울러 더 일반적으로 매트로이드에서도 같은 것이 성립한다고 추측했다. 매트로이드에서 만들어낼 수 있는 수열이 매우 다양하기 때문에 이 추측도 매우 다양한 결과를 한꺼번에 주었다. 예를 들어 그래프가 주어져 있을 때 선이 k개이면서 회로가 없는 부분 그래프의 개수를 센 수열이 로그-오목이라서 감소하기 시작하면 계속 감소한다는 사실을 바로 유도할 수 있게 됐다.
허 교수는 그 후에도 대수기하학의 이론이 조합수학에서 어떻게 대응할지 상상하며 좋은 추측을 만들고 증명해 나가는 작업을 진행하면서 ‘조합적 호지 이론’이라는 새로운 분야를 개척하고 다른 연구자들을 이끌고 있다.
※필자소개
엄상일 기초과학연구원(IBS) 이산수학그룹 CI · KAIST 수리과학과 교수. KAIST 수학과를 졸업하고, 미국 프린스턴대에서 박사 학위를 받았다. 현재 기초과학연구원과 KAIST에서 연구와 강의를 하고 있다. 그래프이론과 이산수학, 조합적 최적화가 주요 연구 분야다. 2012년에는 젊은과학자상(대통령상)을 수상했고, 2017년에는 한국차세대과학기술한림원 회원으로 선정됐다.
[엄상일 기초과학연구원 이산수학그룹 CI & KAIST 수리과학과 교수 ]
Copyright © 동아사이언스. 무단전재 및 재배포 금지.