[젊은 두뇌가 뛴다]⑰ “비눗방울부터 블랙홀까지 부드러운 곡면은 모두 연구 대상”...수학의 난제 깨는 청년 수학자

최경수 고등과학원(KIAS) 수학부 교수 인터뷰
위상수학과 미분방정식 결합해 난제 해결 나서
평범했던 어린 시절, 수학 잘한다고 수학자의 길로
“한국의 미래 수학계, 어린이들이 빛낼 것”

한국계 최초로 수학계의 노벨상으로 불린 ‘필즈상’을 받은 허준이 프린스턴대 교수는 1983년생이다. 나이를 따지는 한국 사회에서 1980년대생은 아직 젊은 실무진 축에 속하지만, 과학계에선 위상이 남다르다. 30대 중후반에서 40대 중반까지는 연구자의 역량과 아이디어가 빛나는 시기로 불린다. 한국연구재단에 따르면, 노벨상 과학 부문 수상자들이 자신의 핵심 연구를 처음 시작한 평균 연령이 37.9세로 나타났다. 조선비즈는 한국의 기초 과학과 공학을 이끌 차세대 리더들을 독자들께 소개하는 인터뷰 시리즈를 시작한다. 젊은 과학자들은 한국공학한림원과 한국과학기술한림원의 추천을 받아 선정했다. ‘제2의 허준이’를 넘어서 한국의 첫 노벨상 과학 부문 수상자, 그리고 한국 산업의 미래를 이끌어갈 핵심 인재가 이들에게서 나오기를 기대한다. [편집자주]

지난해 7월 6일 머나먼 이국땅, 핀란드 헬싱키에서 하나의 소식이 전해졌다. 이 소식으로 한국 수학계에는 그간 유례없던 관심과 격려가 쏟아졌다. 소식의 주인공은 허준이 미국 프린스턴대 수학과 교수다. 수학계의 노벨상이라는 필즈상의 수상자에 한국계 수학자가 처음으로 선정되는 순간이었다.

아직 나아가야 할 길은 멀고 고되다. 첫 수상자를 배출하며 한국도 ‘필즈 메달리스트’ 국가가 됐지만, 국제 수학계에서 제대로 입지를 다지려면 두 번째, 세 번째 수상자가 나와야 한다. 실제로 국내 수학계에는 차기 필즈상 후보로 거론되는 젊은 수학자들이 지금도 묵묵히 연구에 매진하고 있다.

최경수 고등과학원(KIAS) 수학부 교수는 허 교수 이후 필즈상 수상 가능성이 있는 한국인 수학자 중 한 명이다. 수학의 천재일 것 같은 그가 수학자의 길을 걸은 이유는 조금 단순했다. 그는 어릴 때 한 학습지 회사에서 하는 수학 대회에서 1720등을 한 적이 있다고 이야기를 꺼냈다. 그런데도 자신이 수학에 큰 재능이 있다고 믿었다는 게 그의 설명이다.

그 작은 믿음이 최 교수를 수학자의 길로 인도했다. 본격적인 수학 연구를 시작하면서 최 교수는 자신이 수학을 잘하는 것이 아니라 좋아했다는 것을 깨달았다. 그의 관심사는 부드러운 곡면의 모양을 변화시키는 방법을 찾기 위해 위상수학과 미분방정식을 결합하는 연구다. 비눗방울부터 블랙홀까지 부드러운 곡면을 가진 물체는 모두 위상수학의 연구 대상이다. 이 분야에서 그는 이미 세계적으로도 뛰어난 성과를 인정받았다. 그가 근무하던 미국 매사추세츠공대(MIT) C.L.E 무어 인스트럭터는 노벨상 수상자인 존 내시를 비롯해 걸출한 수학자가 거쳐간 자리다.

현재 그는 새로운 도전에 나서고 있다. 위상수학에 남은 난제 중 누구도 풀지 못한 영역에 도전장을 내밀었다. 지난달 2일 서울 동대문구 고등과학원 연구실에서 최 교수를 만났다.

최경수 고등과학원(KIAS) 수학부 교수는 지난달 2일 조선비즈와 인터뷰를 갖고 "수학자의 길에 접어든 것은 내가 수학을 잘한다는 착각 때문"이라며 "이제 수학은 내가 잘하는 것이 아닌 좋아하는 것"이라고 말했다./고등과학원

-미분방정식과 미분기하학을 연구하고 있다. 어떤 연구 분야인가.

“내 연구 주제는 미분방정식과 미분기하학을 이용해 위상수학의 난제를 푸는 것이다. 위상수학은 어떤 공간 속에서 형상이나 위치를 연구하는 학문이다. 위상수학이 처음 만들어지던 시기에는 미분방정식과는 관계가 없는 분야로 여겨졌다. 그런데 미분방정식을 이용해 러시아 수학자 리차드 해밀턴이 미분기하학의 난제였던 ‘푸앵카레의 추측’을 해결하면서 두 분야의 결합이 이뤄졌다.”

-어떤 난제에 도전하고 있나.

“‘쇤플리스 문제’라는 위상수학 난제를 풀고 있다. 수학계에서는 푸앵카레의 추측과 쌍둥이 문제라고도 말한다. 푸앵카레의 추측이 4차원(4D)에서 마지막에 풀린 것처럼 쇤플리스 문제도 4D만 남은 상황이다.”

-구체적으로 설명해달라.

“가령 종이에 마음대로 곡선을 그리는데 선이 겹치지 않고 시작점와 끝점을 잇는다고 생각을 해보자. 이걸 부드럽게 잘 움직이면 동그란 원으로 만들 수 있을 것이다. 그렇다면 마찬가지로 모양만 잘 다듬을 수 있다면 고차원에서도 이런 원형을 만들 수 있을까를 확인하는 것이다. 이 문제는 5D 이상에서는 모두 해결됐다. 그런데 4D에서는 이게 가능한지 아직 풀리지 않았다.”

쇤플리스 문제의 예시. 쇤플리스 문제는 위상수학계의 남은 난제 중 하나로 양 끝이 닿아 있는 폐곡선을 부드럽게 움직여 원형으로 만들 수 있는지에 대한 내용이다./아카이브

-이 문제를 해결하는 데 미분방정식이 도움되는 것인가.

“위상수학은 고차원에서 풀기 쉽고 낮은 차원에서는 어려워지는 특징이 있다. 반대로 미분방정식의 상위 분야인 해석학에서는 낮은 차원의 문제를 더 쉽게 풀수 있다. 4D가 두 수학 분야의 접점이라고 생각하고 도전 중이다.”

-허 교수에 이어 국내 필즈상 수상 후보로 거론되고 있다. 어떤 성과들을 냈었나.

“위상수학은 위상을 아주 부드럽게 움직였을 때 모양의 변화를 연구하는 학문이다. 그런데 어느 순간 움직이다보면 찢어지거나 위상이 변하는 현상이 나타난다. 가령 밀가루 반죽을 부드럽게 문지르다보면 어느순간 찢어지지 않나. 이렇게 부드럽게 움직일 수 없는 위치가 어디고 어떤 특징이 있는지 찾는 방법을 연구했다.”

-어린 시절부터 수학에 재능이 있었나.

“스스로를 ‘긍정적인 착각을 한 어린이’였다고 생각한다. 초등학교 4학년 시절 이야기다. 그때 학습지 회사에서 주최한 수학올림피아드 대회에 출전했다. 당시 대회를 1720등으로 마쳤다. 다른 사람이라면 실망했겠지만 나는 ‘전국의 수많은 학생 중 이정도면 잘했다’고 생각했다. 지금 돌이켜보면 결코 좋은 성적이 아니라는 것을 알고 있다. 그러나 당시에는 내 스스로가 수학에 큰 재능이 있다고 생각하고 수학 공부에 매진했다.”

-실제 수학을 잘 못했다는 것인가.

“초등학교 수학은 누구나 열심히 하면 다 잘할 수 있는 수준이었고, 실제로 성적 자체는 좋았다. 고등학생 때는 국제 수학올림피아드에서 상을 받기도 했다. 수학 천재라는 생각을 갖고 대학에 진학했다. 이 생각은 대학 생활을 하면서 바꼈다. 저소득층 가정의 아이들에게 수학을 가르치는 봉사활동을 했는데, 아이들도 열심히 하니까 성적이 금방 올랐다. 그 모습을 보고 배우면 다 할 수 있는 것이고 내가 수학을 잘하는게 아니라 좋아했다는 것을 깨달았다.”

-슬럼프는 없었나.

“군대에 다녀온 이후 수학에 대한 열정이 사라지면서 나름 방황도 했다. 그래서 유학을 간 다음 다른 전공을 선택하려고 했다. 학부와 다른 전공으로 해외 대학원에 진학하기는 어려우니 우선 수학을 전공하고 전공을 바꾸려고 했다. 유학 생활을 하면서 다시금 수학에 흥미가 되살아났다. 지도 교수가 연구 주제를 줬는데, 이걸 풀면서 논문을 써보니 수학의 진짜 매력을 알게 됐다.”

최경수 고등과학원 수학부 교수는 조선비즈와 인터뷰에서 "수학의 즐거움은 남들이 풀지 못한 문제에 도전하는 것에 있다"고 말했다./고등과학원

-수학의 매력은 무엇이라고 생각하나.

“이전까지 나에게 수학은 남들과 경쟁하고 좋은 성적을 받는 즐거움을 주는 대상이었다. 그러나 이제는 수학 자체에 흥미가 생겼다. 수학에는 수많은 난제가 있다. 문제를 풀다보면 쌓여 있던 갑갑함이 해소된다. 특히 어려운 문제를 풀 때는 희열도 느껴진다. 지금도 수학 연구는 일이라기보다는 취미생활이라고 생각하고 있다.”

-경쟁이 아닌 다른 재미를 찾았다는 것인가.

“오히려 수학 연구를 하면서 친구도 만들고 있다. 학회에서 마음이 맞는 사람을 만나면 서로 연구 분야의 접점을 찾아 공동 연구를 제안한다. 지금도 내가 하고 있는 모든 연구는 다른 사람과 함께 하는 공동 연구다.”

-한국이 필즈상 수상자를 배출하고 1년이 지났다. 특별한 변화가 느껴지나.

“미래의 수학자들을 양성하는 데 관심이 커졌다고 생각한다. 허준이 펠로우십과 허준이수학난제연구소가 대표적이다. 이전에는 처우 문제로 해외에 나가서 연구했을 수학자들이 국내에서도 자리를 잡을 기회가 될 것이라고 기대하고 있다.

-앞으로 한국 수학계가 더욱 성장하려면 인재 양성도 중요하다.

“필즈상 수상자 배출로 어린이들이 수학에 관심이 많아졌다는 점은 고무적이다. 지난해 허 교수가 했던 대중 강연에 초등학생, 중학생으로 보이는 학생들이 대부분이었다. 그동안 고등과학원에서는 절대 볼 수 없었던 광경이었다. 앞으로 수학자들이 무엇을 하는지 많은 관심을 가져줬으면 좋겠다.”

최경수 고등과학원 수학부 교수는

2012년 서울대 수리과학부 학사

2017년 미국 컬럼비아대 수학과 박사

2017~2020년 미국 매사추세츠공대(MIT) C.L.E. 무어 인스트럭터

2020년 상산 젊은수학자상

2021년 포스코 과학자 펠로우십

2023년 아시아 젊은 과학자 펠로우십

2020년~현재 고등과학원 수학부 교수

- Copyright ⓒ 조선비즈 & Chosun.com -