ICM 사상 첫 온라인 2022 대회…허준이 필즈상 쾌거

[한겨레S] 박형주의 한국 수학의 인물 파노라마
강현배·백진호·신석우·허준이
러 상트페테르부르크 개최 예정
우크라 침공에 수학자들 보이콧
한국 학자 3명 온라인 초청강연
역문제·확률론·정수론의 대가들

2022년 필즈상 수상자인 허준이 교수(미국 프린스턴대 교수 겸 한국 고등과학원 석학교수)가 그해 7월5일 핀란드 헬싱키에서 열린 시상식에서 메달을 들고 포즈를 취하고 있다. 로이터 연합뉴스

2022년 세계수학자대회(ICM)를 위해 프랑스 파리와 러시아 상트페테르부르크가 팽팽한 유치전을 벌이던 2017년, 나는 국제수학연맹의 실사위원장으로 두 도시를 방문했다. 러시아 유치위원장이던 경제부총리는 모스크바에서 새벽 기차를 타고 와서 직접 유치 계획을 설명하는 열성을 보였다. 경제적으로 열악한 나라들의 수학자 1천명에 대한 여비 지원을 약속했고, 옛 소련 지역 대학원생 1600명을 초청해 대학 기숙사에 묵게 하겠다는 야심 찬 계획도 밝혔다. 러시아와 동유럽 수학의 부활이라는 큰 그림에 매료된 국제수학연맹은 2018년 총회에서 상트페테르부르크를 다음(2022년) 개최지로 선정했다.

하지만 세상은 얼마나 불확실함으로 가득한가. 2022년 2월 러시아가 우크라이나를 침공했고, 분노한 각국 수학회가 러시아 대회 보이콧을 선언하기 시작했다. 결국 국제수학연맹은 기존 계획을 취소하고 모든 강연을 온라인으로 대체하는 가상 학회로 열겠다고 발표했다. 수학자대회 개막식에서 수여하는 필즈상 등은 핀란드 헬싱키에서 별도로 시상식을 개최했다. 천재지변에 가까운 정치적 상황 때문이지만, 옛 소비에트연방 지역 수학 연구의 역동성에 큰 전기가 될 거라는 기대가 허망해졌다. 개인적으론 당시 허준이의 필즈상 수상을 예상하던 차여서 직접 볼 수 없게 된 것이 못내 아쉬웠다. 가상 공간에서 치러진 2022년 대회에는 3명의 한국 수학자(강현배, 백진호, 신석우)가 초청강연자로 참여했다.

순수수학과 응용수학의 모호한 경계

강현배 인하대 석좌교수. 한국산업응용수학회 제공

강현배는 수학적 ‘역문제’의 대가이다. 서울대 교수를 거쳐 인하대 석좌교수로 있으며, 한국과학상, 경암상, 인촌상을 수상했다. 인간이 세상을 바라보는 방식은 인과율, 즉 원인이 있으면 결과가 따라온다는 인식 체계다. 하지만 종종 결과만을 보게 되는 우리는, 그로부터 논리적 추론을 통해 원인을 추측하곤 한다. 역문제를 푸는 것이다. 잠에서 깨어 밖을 보니 밝다면, 그 결과를 만들어낸 원인으로 ‘낮이 되어 해가 뜬 것’을 추정하는 것은 당연하지 않은가. 지진의 결과인 지진파를 관찰해서 그 원인인 진앙을 추정하는 것도 역문제다. 병원에서 의료 영상을 만들어내는 자기공명영상(MRI)도 수학적 역문제의 사례다. 자석 사이에 우리 몸을 두면 자기장이 지나면서 휜다. 몸의 각종 장기가 핵자기공명이라는 현상을 일으켜서 자기장이 휘는 것이다. 그 모습을 잘 보면 몸 안에 뭐가 있길래 이렇게 휘게 했을까라고 거꾸로 질문할 수 있다. 이는 결국 편미분방정식을 푸는 문제로 귀결되고, 그 결과로 우리는 신체 내부의 모양을 그려낸다.

수학적 역문제에서 보듯, 순수수학과 응용수학의 경계는 점점 모호해지고 있다. 2014년 배우 앤절리나 졸리의 뉴욕타임스 기고문도 이런 변화를 보여준다. 유방암과 난소암의 가족력과 본인의 높은 발암 가능성 때문에 가슴 절제 수술에 이어 난소 제거 수술까지 받았던 자신의 경험과 사람들에게 과학이 보여주는 새로운 선택지들을 알리는 이 기고문은 여러가지 논쟁을 촉발했다. 질병 발생 전에 치료하는 과학의 새로운 성취라는 견해도 있었지만, 특정 유전자 변이에도 암에 안 걸리고 사는 사람들도 많다는 의학적 비판이나, 아직 암에 걸린 것도 아닌데 신체 손상을 되돌릴 수 없는 과잉 의료행위라는 비난이 쏟아졌다.

이 글에 나오는 졸리의 유방암과 난소암 확률은 87%와 50%이다. 생체 데이터를 다양한 가족력의 이전 환자 데이터와 비교하는 통계적 빅데이터 분석의 결과다. 스탠퍼드대의 수학 교수이던 구나 칼슨은 졸리에게 적용됐던 방식보다 훨씬 더 정확한 발암 확률 계산법을 개발했다. 그가 2008년에 창업한 스타트업의 소프트웨어는 비슷한 생체 데이터에서도 추가 암 검진이 필요한지 아닌지를 구별해낸다. 비슷해 보이는 신용카드 사용 패턴을 보고도 의심스러운 사용을 구별해낸다. 그들의 무기는 위상수학이라고 하는 순수수학 이론에 기반한 위상적 데이터 분석(TDA)이었다. 거대 데이터의 모양을 보고 의미를 찾아낸다. 전통적인 응용수학에 속하지 않는 순수수학이 만들어낸 이런 혁신은, 둘 사이의 모호한 경계를 선명하게 드러낸다.

불확실한 세계에 숨어 있는 질서

백진호 미국 미시간대 교수. 미시간대 누리집 갈무리

백진호는 확률론, 특히 무작위행렬 이론의 대가이다. 카이스트를 거쳐 미국 뉴욕대에서 박사 학위를 받고 지금은 미시간대 교수로 있다. 17세기에 시작된 확률론은 결정론적 세계관이 주류이던 세상에서 이단아로 보이기도 했지만, 양자물리가 세상의 전면에 나선 오늘날엔 미지의 세계를 탐험하는 주요 도구가 되었다. 양자역학적인 ‘혼돈’(chaos)을 다룰 때 나오는 무작위 행렬에는 아직도 우리가 알지 못하는 신비로운 영역이 많은데, 이 분야의 연구 결과는 제멋대로 숫자들을 채워 넣어도 숨어 있는 어떤 질서가 있음을 보여준다. 특히 백진호가 해결한 ‘최장 증가 부분수열’ 난제에 관한 논문은 오랜 난제를 해결한 비범한 결과이고, 인용에 인색한 수학 분야에서 기록적인 인용 수를 보이고 있다.

신석우 미국 유시버클리 교수. 유튜브 갈무리

신석우는 정수론의 글로벌 흐름을 이끄는 최고의 수학자이다. 일찍 천재성을 드러낸 그는 고등학생 때 참여했던 국제수학올림피아드에서 한국인 최초로 만점을 기록했고, 서울대와 미국 하버드대에서 공부한 뒤 매사추세츠공대(MIT) 조교수를 거쳐서 지금은 유시(UC)버클리의 교수이다. 정수론은 어쩌면 수학에서 가장 오래 연구된 분야일지 모른다. 고대 그리스 시대부터 정수의 성질과 소수의 신비에 매료되어 희열에 빠지거나 좌절에 빠지곤 하는 수학자들이 역사의 도처에 나타난다. 350년 이상 미해결 난제였다가 20세기 말에야 해결된 페르마의 마지막 문제가 이런 정수론 문제의 한 예이다.

물리학에서 양자역학과 중력이론을 통합하려는 이론을 대통일장 이론이라고 한다면, 랭글랜즈(랭런즈) 프로그램은 수학의 대통일장 이론이라고 할 만하다. 대수적인 세계와 해석적인 세계가 동전의 양면처럼 연결되어 있다는 철학을 구현하려는 이 거대한 프로그램은 언제쯤 막바지에 다다를지 아직 가늠하기도 힘들다. 이 분야에서 괄목할 만한 성과를 낸 한국인 수학자로, 캐나다 토론토대의 헨리 김과 유시버클리의 신석우를 들 수 있다. 특히 신석우는 기술적 난도가 가장 높은 난제들을 해결해내고 있는, 앞으로가 더 기대되는 수학자이다.

※연재를 마칩니다. 그동안 애정을 가지고 함께해 주신 필자와 독자 여러분께 감사드립니다.

아주대 교수

서울대 물리학과 졸업 후 미국 유시(UC)버클리에서 수학 박사 학위를 받았다. 고등과학원·포항공대 교수를 지냈고 아주대 총장을 역임했다. 2014년 세계수학자대회 조직위원장과 한국인 최초의 국제수학연맹 집행위원도 맡았다.