북한보다 국제무대 진출 늦었던 한국 수학, 2006년 만개했다

[한겨레S] 박형주의 한국 수학의 인물 파노라마
김정한·오용근·황준묵

수학, 근본 질문 캐는 사유의 언어
ICM은 5천명 참가 ‘수학 올림픽’

한국은 1980년대에야 국제무대
조합론·기하학·수리물리 업적

1 김정한 교수. 2 오용근 교수. 3 황준묵 교수. 1·2 고등과학원 누리집 갈무리, 3 기초과학연구원 누리집 갈무리

“수학 분야에 아직도 풀 문제가 남아 있나요?”라는 질문을 자주 받는다. “수학도 과학인가요?”라는 질문도 흔하다. 수학으로 자연 현상을 표현하는, 그래서 수학이 과학의 언어 역할을 한다는 관점은 물론 타당하다. 영국 케임브리지의 수학 교수였다가 반전 활동으로 해직된 후 노벨문학상을 받은 버트런드 러셀도 수학을 논리학, 즉 사유의 언어로 간주했다.

물리적 세계의 질서를 규명하는 것과 유사하게, 수학에는 수와 공간의 질서를 규명하는 과학적 행위의 측면도 있다. 예를 들어, 1과 자신으로밖에 나누어지지 않는 자연수인 소수는 아직도 많은 비밀을 가지고 있다. (3, 5), (5, 7), (11, 13), (17, 19) 등은 차이가 2밖에 나지 않아 쌍둥이 소수라고 불리는 소수의 쌍들인데, 점점 커질수록 희귀해지는 것 같다. 그럼 쌍둥이 소수는 유한개(개수가 유한하게 정해진 상태)밖에 없을까? 고대 그리스인들도 궁금해하던 이 질문의 답을 인류는 아직도 찾지 못했다. 이러한 질문에 답하는 과정에서 수의 체계가 확장되고 많은 연구 주제가 파생됐다. 그래서 수학 연구도, 수와 공간에 대한, 자연에 대한, 이해의 확장을 중심으로 이루어진다. 맥락 없이 꼬아놓은 고립된 주제는 그 생명력이 제한되기 마련이다.

세계수학자대회(ICM, 이하 대회)는 19세기 말에 시작되어 국제수학연맹(IMU)이 4년마다 개최한다. 인류가 수학 분야에서 무엇을 알고 무엇을 모르는지를 정리하고 앞으로 풀어야 할 난제들을 제시하는, 4천~5천명이 참가하는 거대 학회다. 개막식에서 난제 도전에 성공한 학자에게 필즈 메달을 수여하고, 글로벌 수학 연구의 흐름을 일목요연하게 보여주는 역할을 해왔다.

북한보다 뒤늦게 세계 무대에

1970년대까지 국내의 자생적 연구가 논문으로 발표되는 경우는 많지 않았고, 수학계는 미래 세대의 교육에 치중했다. 한국인 수학자가 대회에 참가했던 기록은 글로벌 연구와의 단절을 보여준다. 1962년 장범식 연세대 교수가 스웨덴 스톡홀름 대회에 참석한 게 처음인데, 미국으로 이주해 국내 영향은 미미했다. 1966년 캐나다의 이임학 교수가 모스크바 대회에 참석했는데, 당시 참석했던 북한 김일성대학의 조주경 교수가 서울대 재학 시절 은사에게 인사를 드리러 찾아뵈었다는 기록이 있다. 실제로 북한은 수학 분야의 국제 활동이 한국보다 빨랐다. 국제수학연맹에도 북한이 ‘노스 코리아’(North Korea)라는 국호로 먼저 가입했다. 우리나라가 1970년대에 ‘리퍼블릭 오브 코리아’(Republic of Korea)라는 정식 국호로 회원국 가입을 시도했으나, 북한과의 균형을 고려해 ‘사우스 코리아’(South Korea)라는 국호를 사용하길 원했던 연맹의 입장과 충돌해 가입에 실패했고, 1981년에야 가입했다.

1980년대 이후 국내 수학 연구의 새로운 활력을 만든 가장 큰 요인은 재정적 지원의 확대였다. 이런 환경 변화로 1978년 핀란드 헬싱키 대회에 서울대 지동표 교수가 참석해, 국내 연구자가 국제 대회의 결과를 국내에 전달한 첫번째 사례가 됐다. 1983년 폴란드 바르샤바 대회에는 서울대 김도한 교수가 파견되었다. 1986년 미국 버클리 대회에는 박세희, 장건수, 명효철, 채수봉, 오용근 등 재미 학자와 대학원생을 포함해 20여명이 참석했다.

1980년대 말에 시작된 과학재단 연구센터 프로그램으로, 경북대 위상수학·기하학 연구소(1990), 서울대 대역해석학연구센터(1991), 포스텍 전산수학연구센터(1999) 등이 잇따라 출범했다. 별도로 수학과 물리학 분야의 이론연구를 맡는 국책연구소인 고등과학원이 1996년에 설립되었다. 연구 인프라의 획기적 개선으로, 세계적 연구자들의 방한이 늘고 한국 수학자들의 국제 학회 참가도 잦아졌다. 젊은 수학자들이 연구원으로 잡무 부담 없이 연구에만 전념할 수 있는 기회가 늘면서, 해외에서 학위를 마치고 귀국하는 경우도 눈에 띄게 많아졌다. 당시 타 분야와 비교해 큰 투자는 아니었지만, 장비 의존도가 낮은 대신에 우수 인력에 대한 의존도가 높은 수학의 특성에는 이 정도의 투자도 큰 변화의 동인이 되었다.

2006년 스페인 마드리드 대회에서는 역사상 처음으로 한국인 수학자들이 초청 강연자로 선정되었고 역대 가장 많은 한국인 수학자가 참가했다. 수학 논문 수 기준으로는 이미 2003년에 한국은 인도를 추월해 세계 12~13위에 이르렀다. 하지만 연구 역량의 성장은 양적 척도만으로 판단할 수 없는 것이라서 과연 우리가 잘하고 있는 것인가에 대한 깊은 의구심이 있던 차에, 한국 수학이 글로벌 연구의 흐름에 영향을 미치고 있음을 확인한 한국 수학자들은 열광했다.

2006년 한국 수학자들의 열광

2014년 8월13일 서울 강남구 코엑스에서 열린 ‘2014 세계수학자대회’ 개막식에서 잉그리드 도브시 국제수학연맹 회장이 필즈상 수상자를 소개하고 있다. 연합뉴스

한국 수학자 3인의 초청 강연은 모두 8월26일에 있었다. 당시 미국 마이크로소프트 이론연구소의 연구원이던 김정한은 연세대 교수를 거쳐 국가수리과학연구소 소장을 역임한 뒤에, 현재는 고등과학원 교수로 있다. 경암상을 수상한 바 있다. 그래프 이론 업적으로 1997년에 조합론 분야 최고의 상인 풀커슨상을 수상했던 그는 당시 조합론 분과의 초청 강연에서 랜덤 그래프에 관해 발표했다. 공간에 많은 점들이 있고 그 점들 사이를 무작위로 연결하면 랜덤 그래프가 생기는데, 점과 선이 많아지면서 예측하지 못한 규칙성이 발생하는 현상을 규명하는 데 큰 업적을 냈다. 많은 사람들을 친밀도에 따라 연결하면 몇 사람의 마당발이 나오는 게 자연스러운 현상임도 이러한 연구의 결과로 따라온다. 그의 성취는, 국내 드라마 ‘눈의 여왕’에서 현빈이 연기했던 수학자가 풀커슨상을 수상하는 장면에 영감을 주기도 했다.

2006년 당시 미국 위스콘신대학 교수이던 오용근은 기하학 분과에서 심플렉틱(symplectic) 기하와 거울대칭에 관해 발표했다. 심플렉틱은 복잡하다는 뜻의 신조어인데, 심플렉틱 기하는 통상의 기하에 곡면의 크기를 측정하는 개념이 추가된 구조를 다루며 고전물리학의 여러 문제에 새로운 통찰을 주었다. 그는 2013년에 포스텍 교수로 부임했고, 수학 분야 최초로 기초과학연구원(IBS)의 연구단장에 선임되어 현재 기하학수리물리연구단장을 겸하고 있다. 2019년 한국과학상, 2022년 호암상을 수상했다.

8월26일의 마지막 스타였던 황준묵은 대수기하 및 복소기하 분과에서 강연했다. 8년 뒤인 2014년에 한국인 최초이자 현재까지 유일한 대회 기조강연자가 된 그의 업적에 대해서는 다음 기회에 더 다루려 한다.

아주대 교수

서울대 물리학과 졸업 후 미국 유시(UC)버클리에서 수학 박사 학위를 받았다. 고등과학원·포항공대 교수를 지냈고 아주대 총장을 역임했다. 2014년 세계수학자대회 조직위원장과 한국인 최초의 국제수학연맹 집행위원도 맡았다.