허준이 "수학은 표현할 수 없는 것을 표현하는 詩"

한국 최초의 필즈상 수상자, 자연에 존재하는 거대한 일관성을 발견
김영훈·히로나카 교수는 방황의 시기에 전환점 제공한 위대한 멘토

(시사저널=박형주 아주대 수학과 석좌교수)

7월5일 허준이 교수의 필즈상 수상 직후에 국제수학연맹(IMU)은 그의 삶과 업적을 소개하는 짧은 동영상을 공개했다. 여기서 그는 말한다. "나는 표현할 수 없는 것을 표현하는 시인이 되는 것을 꿈꿨고, 마침내 수학이 그것을 하는 방법이라는 걸 알게 됐다."

에베레스트에 오르거나 남극 깊은 곳에 가본 사람은 자연의 거대함에 전율을 느끼고 그 감정을 평생 못 잊는다고 한다. 자연에 숨어있는 질서를 찾는 과학자도 그렇다. 세계의 불완전함 이면에 있는 질서를 찾아내고, 수학적 단순화 과정을 거쳐 대칭과 조화를 표현하는 일에 매료된 수학자들은 역사의 도처에서 나타난다. 자연에 존재하는 이런 질서와 패턴을 찾아내는 작업은, 마치 표현할 수 없는 것을 표현하는 시인의 모습과  닮았다.

한국 최초의 필즈상 수상자 허준이 교수와 그가 받은 필즈 메달ⓒAP 연합

이집트 피라미드, 바빌로니아 상거래에 쓰인 수학

인류 역사에서 수학의 흔적을 찾아보는 일은 정말 흥미롭다. 생존의 필요에 따라 문제를 해결하기 위한 수학도 보이고, 우주에 대한 철학적 이해를 위한 수학도 보인다. 전자의 초기 예로는, 이집트 피라미드에서 관찰되는 건축의 수학이나 국제 교역의 요충지였던 바빌로니아의 상거래 수학을 들 수 있다.

고대 그리스 문명은, 추상화와 공리화를 통해 실용적인 수학을 전혀 새로운 차원으로 옮긴다. 이 사유체계는 르네상스를 통해 중세로 이어지며 서양 지성사의 핵이 되었다. 알렉산드리아의 수학자 유클리드의 기하학 원론에서 사용된 논리의 전개 방식은 유럽의 문학과 철학에까지 영향을 미쳤다. 그리스의 철학적 사유체계는 중세 이후에 그 실체적 힘을 입증하기 시작했다. 유럽 국가들이 식민지 확보에 나설 때는 항해 기술이 경쟁력의 핵심이 되었는데, 삼각함수론이 바다 한가운데서 배의 위치를 확인하는 것을 가능하게 했다. 농사와 계절 예측의 필요는 천체의 운동을 이해하려는 노력으로 이어졌고, 이 과정에서 뉴턴은 미적분학을 만들었다. 당대의 혁신이라 부를 만한 이러한 사건들은, 인류가 추상적 사유의 단계로 가지 못하고 실용적 수학에만 머물렀다면 아마도 이루지 못했거나 훨씬 더 시간이 걸렸을 일들이다.

예술과 수학이 서로에게 영향을 끼친 흔적도 많다. 기하학에 천착했던 플라톤은 음악이 인간을 고양하고 고귀하게 만드는 힘을 가진다고 믿었다. 고대 그리스의 피타고라스는 현악기의 길이에 따라 서로 다른 높이의 음이 나온다는 비밀을 깨달았다.

바흐, 반음과 음높이 사이의 수학적 관계 발견

18세기 요한 세바스천 바흐는 반음 올라갈 때마다 음높이가 지수 승으로 올라간다는 수학적 사실을 이용해, 어떤 음에서 시작해도 완벽한 한 옥타브를 만들 수 있는 음계를 만들었다. 오늘날 악기를 평가하고 분석하거나 음향기기를 제작할 때는 복잡한 소리도 단순한 음들로 쪼갤 수 있다는 19세기 수학자 푸리에의 이론을 사용한다. 이를 역으로 재구성해 다양한 악기 소리를 내는 전자악기와 디지털 앰프도 출현했다.

'표현할 수 없는 것을 표현하는 시인'을 꿈꿨던 허준이 교수가 인생 최초로 자연에 존재하는 어떤 거대한 일관성을 본 건 박사 과정에 입학한 직후였던 것 같다. 거기서 처음 접한 조합론 분야에서, 그래프를 다루다 보면 나오는 어떤 특이한 패턴의 수들을 보게 됐다. 분명 생소한 분야인데, 그 패턴이 어디서 많이 본 것 같다는 기시감. 한국에서의 석사 과정 중에 배웠던 어떤 수들의 패턴(로그 오목이라고 불리는)과 똑같았다.

그 패턴은 이렇다. 실수 여러 개가 순서대로 나열되어 있는데, 모두 양수다. 처음에는 작은 수인데 점점 커지다가 정점에 도달하더니 줄어들기 시작한다. 작아지다 다시 커지는 일은 없다. 단 하나의 정점이 있을 뿐이니 봉우리가 하나인 수열이다. 그림으로 그린다면 아래로 오목한 곡선이 연상된다. 원래 수의 로그를 취한 것들이 이런 수열이 되면 '로그 오목성'을 갖는다고 말한다. 경이로운 것은, 자연 도처에서 이런 패턴을 가진 수들이 발견된다는 것이다.

점점 커지다 정점에서 줄어드는 자연의 패턴

허준이 교수는 서울대 석사 과정을 마치면서 유학을 가고자 했지만, 학부 때의 나쁜 성적 때문에 줄줄이 입학 허가를 거부당했다. 딱 한 곳에서 입학 대기자 명단에 올려준 게 다였다고. 천운인지 앞줄의 학생들이 안 오면서 구사일생으로 입학하게 됐는데, 모르던 분야에서 동일한 패턴의 수들이 나오는 걸 보게 된 것이다. 이 신참 대학원생은 이해할 수 없는 패턴들의 동일성에 매료돼 첫해를 보냈고, 결국 조합론자들이 다루던 그래프를 적절한 방식으로 자신이 석사 때 주로 다루던 사영다양체로 변환시킬 수 있음을 깨달았다. 기적 같은 일은, 대수기하학에서는 그런 사영다양체에서 나오는 수들의 패턴이 로그 오목성을 갖는다는 사실이 이미 명료하게 이해되고 증명된 상태였다는 사실이다. 원래 그래프로 다시 변환하면 거기서 나오는 수들의 패턴도 동일해야 한다는 발견으로 이어졌다. '연결의 힘'이다. 조합론의 대상을 대수기하의 대상으로 바꾸고 나서는, 이미 답을 알고 있는 상태에서 조합론 문제를 볼 수 있게 됐다고 했다. 이 발견을 글로 적어서 조합론자들에게 보여줬더니, 조합론의 수십 년 된 난제인 리드 추론을 해결한 거라고 했다. 이 발견을 박사 1년 차에 수학 분야 최고의 학술지인 미국수학회지에 투고했고 논문은 신속하게 게재 승인되었다. 일약 스타가 된 것이다.

거대한 가능성을 가진 청소년들은 방황의 시기에 인생의 전환점이 되는 멘토를 만나기도 한다. 영화 《옥토버 스카이》에서 소련의 인공위성 발사를 보고 고양된 탄광촌 아이를 나사의 로켓 과학자로 만드는 미스 라일리 같은 위대한 멘토 말이다. 대학에서 전공에 적응하지 못한 허 교수는 3학년 1학기 때는 방황이 절정에 달해 전 과목을 D와 F를 받았다. 이런 시기를 겪고도 포기하지 않고 분야를 바꾸어 새로 시작해볼 생각을 했으니 얼마나 다행인가. 이런 힘든 방황의 시기에 학생의 재능을 엿보고 격려하며 수학과 대학원에 입학하도록 도와준 이가 김영훈 서울대 교수다.

히로나카 헤이스케 교수

히로나카 교수는 강의 노트 없이 영감으로 가르쳐

이런 우여곡절 끝에 6년 만에 대학 졸업을 앞두게 되었는데, 히로나카 헤이스케 교수가 서울대 석학교수 프로그램으로 방문했다. 이 1970년 필즈상 수상자는 강의 노트도 없이 그 순간의 영감으로 강의했고, 수강생은 빠르게 줄어들었다. 어차피 모든 게 생소하던 허준이 학생은 끝까지 남았고 히로나카 교수와 식사와 산책을 같이 하는 사제지간이 됐다. 나중에 유학 지원을 할 때는, 그나마 필즈상 수상자의 추천서 덕분에 단 한 곳의 미국 대학이긴 하지만 입학 대기자 명단에 올려준 건지도 모른다.

유학 첫해의 사건은 운과 우연이 잘 맞물린 신데렐라 스토리다. 내리 한길만 팠더라면 절대 만나지 못했을 우연이기도 하다. 한국에서 은사인 김영훈 교수와 히로나카 교수를 열심히 따라다닌 덕에 대수기하학의 특수 분야인 특이점 이론에 대해 조금 알게 되었는데, 유학 가서는 운명처럼 조합론에서 자신이 기억하고 있던 수들의 패턴과 동일한 걸 보게 된 것이다.

2006년 테렌스 타오 교수의 필즈상 강연을 들은 적이 있다. 그때 깊은 인상을 받았던 것은, 해석학 분야를 전공한 그가 해석학 분야의 깊이 있는 이해를 바탕으로 엉뚱한 정수론의 난제를 해결했다는 사실이었다. 한 분야만 내리 판 사람이 누리지 못하는 이런 운과 우연은, 상이한 분야들을 오픈 마인드로 바라보는 사람만이 누릴 수 있다. 그래서 나는 학생들에게 얘기한다. 한 우물 파지 말고 여러 우물을 파라고. 그것들 사이의 이해할 수 없는 연결성이 당신에게 새로운 기회를 줄지 모른다고.

김영훈 서울대 교수ⓒ연합뉴스

대수기하학의 특이점 패턴, 조합론에서도 나타나

허준이 교수는 이전의 인터뷰에서 "공동으로 하는 것이 훨씬 멀리 가고 깊이 간다"는 말을 한 적이 있다. 골방에 틀어박혀 홀로 난제를 해결하는 시기도 있지만, 학문적 친구들과 안 풀리는 문제의 난점에 대해 얘기하는 과정에서 전혀 새로운 모습의 해결책이 나오곤 하더라는 경험이 담겨 있다. 그의 논문을 읽고 영감을 받은 두 명의 수학자에게서 연락이 왔다. 협력이 시작됐다. 초기 아이디어에서는 조합론 문제를 대수기하 문제로 변환시켰지만, 변환이 안 되는 조합론의 대상도 많다는 게 문제였다. 조합론 분야의 연구 훈련을 더 받은 두 명의 전문가와 함께 허 교수는 초기 아이디어를 확대해 조합론에서 다양체로의 이전 과정 없이 조합론 자체에서 홋지 이론을 구축하는 데 성공했다. 조합론적 홋지 이론이라는 완전히 새로운 수학 분야가 열린 것이다. 이 연구팀은 새로운 강력한 도구를 사용해 안 풀리던 난제들을 속속 해결했다.

자신의 논문에서 자신이 보지 못한 걸 남이 보는 경우는 흔히 일어난다. 할 수 있는 범주가 크게 늘어날 수밖에. 그래서 학생들에게 당부한다. 동료와 함께 배우고 동료와 함께 해결하라.   

Copyright ⓒ 시사저널(http://www.sisajournal.com). 무단전재 및 재배포 금지