일기예보·AI 토대 '확률론' 대가 탈라그랑, 수학계 노벨상 '아벨상'
‘수학계 노벨상’이라 불리는 2024년 아벨상이 5세 때 한쪽 눈을 실명하고도 연구에 매진해 확률론과 물리학계에 새로운 지평을 연 프랑스 수학자 미셸 탈라그랑 교수에게 돌아갔다. 아벨상 21년 역사에서 확률론 분야에서 수상자가 나온 것은 이번이 두번째다. 최근 수학계에서 떠오르는 확률론의 위상을 보여준다는 평가가 나온다.
노르웨이 과학한림원과 아벨상위원회는 확률 이론과 함수 분석에 대해 획기적으로 공헌하고 물리학, 통계학에 응용할 수 있는 뛰어난 업적을 세운 탈라그랑 프랑스 소르본대 및 국립과학연구센터(CNRS) 교수에게 2024년 아벨상을 수상한다고 20일(현지 시간) 발표했다.
아벨상은 수학자에게 가장 영예로운 상으로 꼽힌다. 허준이 미국 프린스턴대 교수가 2022년 수상한 필즈상이 앞으로가 기대되는 만 40세 이하 젊은 수학자에게 돌아가는 반면 아벨상은 평생의 공로를 인정받은 수학자에게 주어지기 때문이다. 수학 역사상 가장 유명한 페르마의 마지막 정리를 증명한 영국 수학자 앤드루 와일스, 노벨 경제학상을 받은 수학자 존 내시가 아벨상을 받았다.
서인석 서울대 수리과학부 교수는 “탈라그랑 교수는 특정한 모델이나 문제에 국한되기보다는 거대하고 복잡한 확률 시스템의 깊은 원리를 이해하는 데 크게 기여한 수학자다”라며 “그가 확률론에서 찾아낸 여러 구조적 원리들은 오늘날 확률론의 거의 모든 분야에서 그 기반으로 사용되고 있으며 확률론과 통계역학 및 통계학 등을 이론적으로 연결하는 중요한 역할을 하고 있다”고 평가했다.
● 확률 최댓값 구하는 강력한 도구 만들어
탈라그랑 교수의 주요 업적은 3가지로 2가지는 확률론, 나머지 1가지는 이론물리학과 관계가 깊다. 남경식 KAIST 수리과학과 교수는 “탈라그랑 교수의 논문은 수학을 하는 사람이라면 무조건 한 번 이상 읽어봤을 정도로 유명하고 컴퓨터사이언스, 수리물리학, 확률론, 통계학에 모두 적용할 수 있어 획기적인 내용을 담고 있다”며 탈라그랑 교수의 업적을 극찬했다.
1952년생인 탈라그랑 교수는 함수해석학과 확률에 큰 족적을 남겼다. 연구 초기에는 함수해석학 연구를 많이 진행했지만 점점 무한차원 공간을 분석하는 방법론에서 영감을 받아 확률과정의 최댓값을 구하는 방법에 관심을 기울였다.
일반적으로 확률변수의 최댓값을 구하는 것은 오늘날 수학자들에게도 매우 큰 어려운 문제이며 정확한 공식이 존재하지 않는다. 동전 던지기와 같이 서로 영향을 받지 않는 ‘독립’인 확률변수들의 경우 최댓값을 구하는 건 간단하다. 반면 서로 영향을 받는 경우, 상관관계가 있는 경우에는 상황이 매우 달라지며 최댓값을 예상하기 매우 까다롭다.
그 이유를 동전을 만 번 던진다고 생각해볼 때를 가정하면 이해할 수 있다. 동전을 던지는 행위가 다음 던지는 행위에 영향을 주지 않는다면 앞면과 뒷면이 나올 확률은 각각 50대 50으로 간단하다. 상황을 바꿔 처음 동전을 던지는 행위가 뒤에 던지는 행위에 영향을 끼친다면 어떨까.
예를 들어 동전을 너무 높게 던지느라 힘이 빠진 나머지 다음 동전을 살짝 던진다면 상황이 달라질 수 있다. 이처럼 파도처럼 각 행위가 또 다른 행위에 영향을 주고 또 다음 행위에 영향을 주면 확률은 종잡을 수 없게 된다. 이 때문에 일반적으로 확률과정의 최댓값을 정확히 구하는 건 사실상 불가능하다.
대신 수학자들은 최댓값에 가장 근사한 값을 구하는 법을 알아내고자 했다. 탈라그랑 교수는 1987년 이 일을 해냈다. 확률과정이 정규분포를 따를 때 이들의 최댓값을 매우 근사하게 구하는 식을 최초로 만든 것이다. 놀랍게도 그는 최댓값을 기하학을 이용해 묘사했다. 이처럼 기하학적인 관점을 사용해 확률 문제를 푼다는 건 당시 상상하기 어려운 시도였다.
그의 확률론에서 두 번째 업적은 높은 차원을 가지는 확률분포가 얼마나 평균에 가깝게 있는지를 정량적으로 구하는 이론을 만든 것이다. 확률분포란 어떤 변수가 특정한 값을 가질 확률을 함수로 나타낸 것이다. 예를 들어 동전을 만번 던졌을 때 앞면이 만번의 절반인 5000번 근방인 4900번 이상 5100번 이하로 나올 확률을 정량적으로 계산하는 도구를 만들었다고 생각하면 쉽다. 그는 고차원 공간에서의 거리 개념을 도입해 이를 정확하게 묘사했다.
남 교수는 “10억 개처럼 개수가 어마어마하게 큰 데이터를 다룰 때 탈라그랑 교수의 식을 사용한다”면서 “오늘날까지 수학자들 사이에서 끊임없이 인용되는 결과다”라고 말했다.
● 노벨상 결과 수학적으로 완벽히 증명
이론물리학과 관련한 탈라그랑 교수의 마지막 업적은 수학계보다는 물리학계를 깜짝 놀라게 한 결과였다. 2021년 조르조 파리시 이탈리아 사피엔자대 교수에게 노벨 물리학상을 안긴 물리학 이론을 수학적으로 완벽히 증명했기 때문이다.
파리시 교수는 무질서한 복잡한 물리시스템 안에 숨겨진 패턴을 발견하는 데 공헌을 한 물리학자다. 1979년 ‘파리시 포뮬러’라는 이론을 만들어 겉보기에 무작위적인 현상의 특정 물리량을 대략적으로 계산해냈다. 그가 노벨상을 받는 데 큰 공을 세운 업적이지만 식이 직관적이지 않았다. 이 식이 왜 해당 결과를 만드는지 이해하기 어렵다는 뜻이다.
20여 년이 지나 탈라그랑 교수가 2006년 발표한 논문에서 파리시 포뮬러를 수학적으로 증명해내는 데 성공했다. 이지운 KAIST 수리과학과 교수는 “수학적으로 물리 이론이 완벽히 증명되면 반론의 여지 없는 강력한 식으로 자리매김하게 된다”고 말했다.
이 교수에 따르면 탈라그랑 교수의 이론은 빅데이터를 학습하는 기계학습에서 적용이 가능하다. 최근 AI 발달로 기계학습이 중요해졌기 때문에 그의 업적이 더욱 주목받고 있다. 노르웨이 과학한림원도 "탈라그랑 교수가 연구하는 확률론과 확률적 프로세스를 이용해 무작위 현상에 대해 철저하게 이해하는 것이 오늘날 필수가 됐다"라면서 확률의 중요성을 강조했다. 무작위한 현상을 계산하고 설명하는 확률 알고리즘은 일기 예보, AI의 대규모 언어 모델의 바탕이다.
수학자들에 따르면 확률론은 최근 여러 분야에서 돋보이고 있다. 남 교수는 “최근 확률론이 오래된 수학, 물리학 난제들을 해결하는 실마리를 주고 있어 눈에 띄게 발전하고 있다”고 설명했다. 확률론 수학자인 위고 뒤미닐-코팽 프랑스 고등과학연구소 및 스위스 제네바대 교수도 통계물리학 난제를 풀어 2022년 필즈상을 받았다.
● 유전병도 이긴 뚝심
72세 노년의 수학자인 탈라그랑 교수의 인생이 늘 평탄한 건 아니었다. 오히려 그 점이 수학으로 그를 이끌었다. 1952년 2월 15일 프랑스에서 태어난 그는 5세 때 유전병으로 한쪽 시력을 잃었다. 10년 후 다른 한쪽도 실명할 위기에 처하면서 6개월 동안 치료를 위해 학교를 결석해야 했다.
이때 실명할 것이 두려웠던 나머지 공부에 매진했고 그 과정에서 수학과 물리학에 대한 재능을 발견했다. 이후 실명 위기를 극복하고 생계를 유지하겠다는 목표로 프랑스 리옹대로 진학해 수학을 전공했다가 수학에 흠뻑 빠졌다. 1974년 CNRS에서 수학 연구를 시작했다.
그의 논문 대부분은 단독 저자다. 남 교수는 "인터넷도 원활하지 않았던 시기에 홀로 방대한 양을 연구하고 획기적인 관점으로 결과를 낸 점이 놀랍다"고 평했다.
아벨상 위원회에 따르면 그는 자신의 뛰어난 수학적 업적 비결로 “작은 문제에 집중하는 것”이라고 말한다. 겸손한 자세로 간단한 상황을 완전히 이해하는 것부터 시작하는 것이 큰 도움이 된다고 했다. 또 그는 “어떤 추측을 할 때는 그것을 증명하려고 시도하는 것뿐 아니라 반증하려고 시도하는 것도 큰 도움이 된다”면서 “이런 과정을 거치면 문제를 훨씬 더 명확하게 파악할 수 있다”고 말했다.
혁혁한 공을 인정받은 탈라그랑 교수는 2004년 프랑스 과학아카데미 펠로우로 선출됐다. 로베상, 페르마상, 쇼상 등 유명한 수학·과학상을 휩쓸기도 했다. 특히 2019년 쇼상을 받은 후 그 상금으로 ‘내 상금으로 부자가 되세요’라는 수학 커뮤니티 사이트를 만들었다.
그는 사이트에 올라온 퍼즐을 푼 사람에게 자신의 상금을 주면서 수학에 대한 사람들이 관심을 불러일으켰다. 해당 사이트의 첫 페이지 문구는 ‘수학은 당신에게 날개를 달아줍니다’다. 그는 자신의 연구 결과가 업적을 알리기 위해 여러 참고서 등 서적을 쓰기도 했다.
탈라그랑 교수는 한국과도 인연이 깊다. 그의 아내가 이완수 미국 오하이오주립대 경영학과 교수여서다. 낭만적이게도 첫 미국 여행에서 만난 이 교수와 사랑에 빠져 결혼을 해 현재 자녀로 두 아들을 두고 있다. 상을 받을 때마다 아내에게 공을 돌리는데 특히 쇼상을 받을 때 “수학 덕분에 제 업적을 높게 평가하는 멋진 여성을 만났다”면서 “그녀는 가능한 모든 방법으로 내 일을 지원했을 뿐만 아니라 내게 많은 개인적인 행복을 가져다주었다”라고 말했다. 가족과 100개국 이상을 여행할 정도로 가족과 많은 시간을 보낸다.
노르웨이 과학 한림원은 이번 아벨상 수상자를 발표하며 탈라그랑 교수에 대한 약력 소개에 그를 "노력과 즐거움이 합쳐진 태도를 가지고 있는 사람"이라고 소개했다. 탈라그랑 교수가 현재 마라톤에 몰입하고 있다면서 삶과 과학에 대한 그의 유쾌한 접근 방식을 높이 평가하기도 했다. 아벨상 시상식은 5월 21일 노르웨이 오슬로에서 열린다. 노르웨이 정부가 후원하는 아벨상의 상금은 750만 크로네로 한화로 약 9억5000만원에 달한다.
*탈라그랑 교수의 대표 논문 3가지
1. [확률론] https://projecteuclid.org/journals/acta-mathematica/volume-159/issue-none/Regularity-of-gaussian-processes/10.1007/BF02392556.full
2. [확률론] https://link.springer.com/article/10.1007/BF02699376
3. [이론물리학 및 통계물리학] https://annals.math.princeton.edu/2006/163-1/p04
[이채린 기자 rini113@donga.com]
Copyright © 동아사이언스. 무단전재 및 재배포 금지.