빛의 반사 소거한 ‘투명 망토’의 수학적 토대 마련한 한국 수학자

[한겨레S] 박형주의 한국 수학의 인물 파노라마
김범식·김병한·이기암·하승열

2014년 8월13일 수학계의 올림픽으로 불리는 2014 세계수학자대회가 박근혜 대통령이 참석한 가운데 서울 코엑스에서 여드레 일정으로 열리고 있다. 청와대사진기자단

2014년 서울대회 질적성장 폭발
세계적 석학들과 눈높이 나란히
거울대칭·수리논리·편미분 등
첨단 응용분야 연구 업적 눈부셔

어느 학문 분야에서나 양보다 질이 중요하다는 주장이 대부분 받아들여지지만, 양과 질의 문제는 그렇게 간단하진 않다. 18~19세기 유럽 최고의 수학자였던 가우스와 오일러는 논문 출간에서 완전히 다른 양상을 보여주는 예다. 정력적인 집필자였던 오일러는 수천편의 논문과 책의 저자 또는 공저자였다. 18세기 유럽에서 나온 수학 논문의 반을 오일러가 썼다는 다소 과장된 소문이 나돌 정도이다. 반면에 ‘배우는 행위’ 자체를 중요시했던 가우스는 최고가 아니면 출간하지 않는다는 원칙을 고집스럽게 지켜서, 그의 논문 상당수는 사망 후에 지인들에 의해 정리·출간되었다.

1990년대 국내에 수학 관련 연구소들이 설립되고 국외 학자들과의 교류가 늘자, 국내의 연구 방향과 글로벌 연구 트렌드의 동기화가 이루어지면서 한국 수학은 양적으로 크게 성장했다. 2005년에 설립된 국책연구소인 국가수리과학연구소는 매년 국내외 수학자들을 초청해서 상당한 수의 워크숍을 열었다. 이는 국내외 수학자들의 네트워킹을 통한 공동연구의 기회를 늘리면서 한국 수학의 새로운 방향 설정에 기여했다. 이런 과정에서 국내의 수학 논문 수는 비약적으로 늘어났다. 한해 동안 출간되는 논문 수 기준으로 20년 동안 한국은 세계 11~13위를 유지하고 있다.

철학·논리학·이론물리학과의 만남

한국의 인구 규모 등을 고려할 때 양적으로는 성장의 고점에 이른 것으로 볼 수 있어서, 2010년대 이후 한국 수학의 주요 목표는 질적 성장이었다. 고립된 ‘한국형 수학’보다는 글로벌 연구의 방향에 유의미한 영향을 미치는 연구가 주목받는 시대가 온 것이다. 정도의 차이는 있지만 질 중심으로의 변화는 최근 대부분의 학문 분야에서 일어나고 있다. 연구재단 등의 지원 대상 선정에서도 연구자의 모든 논문이 아니라 대표 논문을 중심으로 평가하는 경우가 늘고 있고, 국내외 대학의 교수 평가나 각종 대학 평가 기관의 평가 지표 등에서도 연구의 질을 평가하려는 변화는 확연히 드러난다.

2014년 서울에서 열린 세계수학자대회는 한국 수학의 질적 성장이 폭발적으로 표현된 사건이었다. 5천명 이상의 수학자가 모여서 9일간 열린 대회에서 4명의 필즈 메달 수상자가 탄생했고 한국인 최초의 기조강연자(황준묵)가 탄생했으며 역대 가장 많은 5명의 한국인 초청강연자(강석진, 김범식, 김병한, 이기암, 하승열)가 배출됐다. 학생들과 젊은 수학자들이 세계 최고 석학들을 만나 연구 ‘눈높이’가 높아지는 전환점이기도 했다.

강석진은 대수학의 한 분야인 표현론 분야의 연구자다. 특히 조합론적인 방식을 도입한 크리스털 기저 연구에서 성취를 냈다.

김범식 고등과학원 교수. 고등과학원 제공

김범식은 기하학 분야의 탁월한 학자다. 개인적으론 1980년대 말 미국 버클리 캘리포니아대 수학과 대학원에서 처음 만났는데, 번득이는 연구 아이디어를 가진 촉망받는 대학원생이었고 대학원생들 사이에서 장래 최고의 학자가 되는 보증수표로 여겨지던 슬론 박사논문상을 받으며 주목받았다. 심플렉틱 위상수학 분야의 대가인 알렉산더 기벤탈 교수에게 사사했다. 스웨덴 미타그레플레르 연구소에서 박사후 연구원을 마치고 포스텍 교수를 거쳐서 고등과학원 교수를 지냈다. 그는 우주에서 발견된 서로 무관해 보이는 현상들이 거울에 비치는 것처럼 관련이 있음을 나타내는 이론인 ‘거울대칭’ 이론의 세계적 권위자다. 수학과 이론물리학의 상호작용이 활발한 이 분야에서 초끈이론의 결과로 나오는 대칭성의 불가사의를 수학자의 눈으로 들여다보고 통합된 설명과 관점을 제시하고자 하는 여정에서 세계 최고 수준의 성취에 다다랐다. 2003년 젊은 과학자상, 2007년 국가석학, 2014년 포스코 청암과학상, 2020년 한국과학상을 수상했으나, 2021년 54살의 나이에 별세했다.

군집 이동 패턴의 수학적 표현

김병한 연세대 교수. 연합뉴스

김병한은 한국에서는 보기 드문 수리논리학자다. 오랫동안 논리학의 세계적 중심 역할을 했던 미국 버클리의 논리학 박사 과정도 철학과와 수학과가 공동으로 운영하고 있듯이, 논리학은 수학과 철학의 접점에 있는 분야다. 이 분야의 거장인 괴델, 화이트헤드, 러셀 등은 수학 외 분야에도 잘 알려져 있는 것에 견줘 수학에서의 존재감은 다소 적어졌다는 시각도 있었지만, 1990년대 이후로 힐베르트의 5번째 문제나 정수론의 주요 문제를 해결해내면서 수학적 중요성이 재평가되고 있다. 여러 분야와 소통이 가능하고 새로운 역동성을 보여주고 있는 분야여서 국내 젊은 학자들의 관심이 필요한 분야다. 국내뿐 아니라 아시아에서도 전문가가 적은 분야여서, 미국 매사추세츠공대(MIT) 조교수를 거쳐 연세대 교수로 재직 중인 김병한은 동아시아 출신으로는 최초의 논리학 분야 세계수학자대회 초청강연자가 되었다.

이기암 서울대 교수. 연합뉴스

이기암은 편미분방정식 분야의 빼어난 연구자다. 변화하는 자연 현상은 미적분의 언어로 표현되곤 하는데, 고전물리학의 뉴턴 방정식이나 양자물리학의 슈뢰딩거 방정식 등이 이런 예다. 시간과 공간 등의 여러 변수가 있는 경우는 편미분방정식으로 표현되는데, 자연의 복잡함을 반영하는 비선형성이 강하면 실제 풀기는 아주 어려워져서, 종종 풀 수 있는지조차 불분명한 경우도 많다. 음속으로 비행하는 항공기나 바다에서 몰아치는 파도의 움직임을 표현하는 나비에-스토크스 방정식은 인류가 아직도 제대로 이해하지 못하는 경우다. 이기암은 이런 비선형성이 강한 편미분방정식을 이해하려는 노력의 과정에서 주목받는 결과를 내고 있다.

하승열 서울대 교수. 하승열 제공

하승열은 편미분방정식 분야의 연구뿐 아니라 자연 현상이나 사회 현상에 이를 적용하는 연구로 주목을 받았다. 실제로 대회의 초청강연도 ‘수리물리 및 과학기술의 수학’ 분과에서 이루어졌다. 물고기 떼가 이동하거나 새들이 떼를 이루어 이동하는 군집 이동에서는 특정한 패턴이 관찰되곤 하는데, 이러한 현상을 편미분방정식으로 표현하고 설명하는 수학은 애니메이션 제작 등에서 사용된다. 요즘 이어폰에 외부 소리를 완벽하게 제거하는 노이즈 소거 기능이 탑재되듯이, 미래에는 빛의 반사를 소거하는 방식으로 특정 사물을 감추는 투명 망토가 나올 수 있는 수학적 토대도 마련했다.

아주대 교수

서울대 물리학과 졸업 후 미국 유시(UC)버클리에서 수학 박사 학위를 받았다. 고등과학원·포항공대 교수를 지냈고 아주대 총장을 역임했다. 2014년 세계수학자대회 조직위원장과 한국인 최초의 국제수학연맹 집행위원도 맡았다.

하핫열