28세에 세기의 난제 푼 팔팅스, 수학 노벨상 '아벨상' 품다

'수학계 노벨상'으로 불리는 아벨상의 올해 주인공은 게르트 팔팅스 독일 막스플랑크 수학연구소 명예소장에게 돌아갔다.
노르웨이 과학한림원과 아벨상위원회는 "산술기하학에 강력한 도구들을 도입하고 수학자 루이 모델과 세르주 랑의 오래된 디오판토스 추측들을 해결한 공로"로 팔팅스 명예소장을 2026년 아벨상 수상자로 선정했다고 19일(현지시간) 밝혔다.
아벨상은 노르웨이 수학자 닐스 헨리크 아벨의 이름을 딴 상으로 노르웨이 정부 기금으로 조성된다. 매년 뛰어난 수학자에게 수여하며 노벨상을 직접적으로 모델로 삼아 2003년 제정됐다. 상금은 750만 노르웨이크로네(약 11억7200만원)이다.
헬게 홀덴 아벨상위원회 위원장은 "팔팅스 명예소장의 업적은 기하학적·산술적 관점을 통합하며 깊은 구조적 통찰의 힘을 잘 보여준다"며 "결정적인 단 하나의 결과가 있었던 것이 아니라 오랜 연구 경력에 걸친 누적된 업적 전체가 중요했다. 물론 모델 추측의 증명이 그 최정점에 있다"고 덧붙였다.
김민형 영국 에든버러 국제수리과학연구소장은 "20세기 말 정수론 최대의 거장"으로 평가하며 "추상적인 기하학적 도구를 방정식 풀이 같은 구체적인 문제에 도입함으로써 개념적 깊이의 위력을 가장 훌륭하게 과시한 인물"이라고 말했다. 아울러 "페르마의 마지막 정리를 증명한 앤드류 와일스가 가장 존경한 수학자로 알고 있다"고 덧붙였다.
● 28세에 세기의 난제를 풀다
수학에서 가장 오래된 분야 중 하나는 정수해를 구하는 방정식인 디오판토스 방정식이다. 피타고라스 정리(x²+y²=z²)가 대표적 예로 3²+4²=5²처럼 정수해가 무한히 많다. 현대수학에서는 문제의 구조를 이해하기 위해 유리수 해까지 확장해 연구한다.
그런데 방정식의 차수가 높아질수록 해의 개수는 급격히 줄어든다. 1922년 영국 수학자 루이 모델은 차수 4 이상의 고차 곡선 위에 유리점(유리수 좌표를 갖는 점)이 유한 개뿐이라는 가설을 제시했다. 이것이 '모델 추측'이다. 수학계의 핵심 난제로 꼽혀 온 이 추측은 이후 60년간 아무도 풀지 못했다.
이승재 인천대 수학과 교수는 "팔팅스 명예소장을 큰 틀에서 보면 '유리수 방정식이 언제 유한개의 유리수 해를 갖는가'라는 문제를 기하학적 관점과 연결해 해결한 수학자"라며 "주어진 정수 방정식이 언제 유한한 유리해만 갖는지를 방정식이 그리는 곡선의 형태인 종수(genus)와 연관지어 푼 산술기하학의 대가"라고 설명했다.
팔팅스 명예소장은 1983년 이 난제를 증명하며 하룻밤 사이에 세계적 수학자로 떠올랐다. 처음부터 이 추측을 풀겠다는 목표를 세운 것이 아니었다. 연구하다 보니 풀게 된 것이었다.
팔팅스 명예소장은 동아사이언스와의 인터뷰에서 "정말 기뻤지만 모든 것이 올바르게 증명됐는지 불안하기도 했다"며 "갑자기 유명해지는 것은 묘한 경험이었다"고 당시를 회고했다. 이 증명은 '팔팅스 정리'로 불리게 됐다.
팔팅스 정리의 파급력은 컸다. 1995년 앤드루 와일스 영국 옥스퍼드대 교수가 358년간 미해결이었던 '페르마의 마지막 정리'를 증명할 때도 팔팅스 정리가 중요한 선행연구로 작용했다. 페르마의 마지막 정리는 n이 2보다 클 때 xⁿ+yⁿ=zⁿ을 만족하는 자연수 해가 존재하지 않는다는 것으로 17세기 프랑스 수학자 피에르 드 페르마가 제기한 미해결 난제였다.
김완수 KAIST 수리과학부 교수는 "산술기하학은 유리수를 변수로 갖는 다항식의 해들이 만드는 공간의 기하학을 연구함으로써 정수론의 결과를 이끌어내는 분야"라며 "팔팅스 명예소장은 현대 산술기하학의 현재 모습을 이룰 수 있게 한 기반을 닦은 분"이라고 말했다. 그는 "천재의 대명사로 통한다"라고 덧붙였다.
● 난제가 난제를 불렀다
모델 추측 증명 이후에도 팔팅스 명예소장에게는 새로운 문제들이 마치 실에 꿴 수학적 진주들처럼 차례로 풀려 나갔다. 1989년 폴 보이타가 모델 추측의 대안적 해법을 내놓자 팔팅스 명예소장은 이에 영감을 받아 '팔팅스의 곱 정리'라는 새로운 수학적 도구를 개발했다.
이 도구로 또 다른 오랜 난제인 모델-랑 추측도 해결했다. 모델-랑 추측은 '아벨 다양체'라는 고차원 기하학적 구조 안에서 유리점이 어떻게 분포하는지를 기술하는 이론으로 모델 추측을 훨씬 더 넓은 범위로 일반화한 것이다.
수학의 또 다른 분야에서도 팔팅스 명예소장의 손길은 미쳤다. 일반적인 기하학이 눈에 보이는 공간의 구조를 다룬다면 p진 호지 이론은 수 체계를 기하학적으로 바라보는 분야다. 수와 도형 사이의 숨겨진 관계를 파헤치는 것이다. 팔팅스 명예소장은 이 분야의 핵심 추측들을 잇달아 증명하며 현대 수학의 지평을 넓혔고 그가 도입한 개념들은 이후 수학자들에게 새로운 연구의 출발점이 됐다.

● 필즈상에 아벨상까지…수학계 최고 권위의 두 상
팔팅스 명예소장은 1954년 독일 루르 지역 겔젠키르헨에서 태어났다. 부모 모두 이학 박사였다. 어릴 때는 물리학에 관심이 많았지만 수학으로 방향을 틀었다. 고교 시절 전국 수학경시대회에서 두 차례 수상했고 독일 뮌스터대에서 수학을 전공한 뒤 박사학위를 마치고 하버드대에서 연구원으로 지냈다. 1982년 28세의 나이에 독일 부퍼탈대 정교수로 부임했고 이듬해 모델 추측을 증명했다.
팔팅스 명예소장은 이 공로로 1986년 필즈상을 받았다. 필즈상은 40세 미만 수학자에게 4년마다 한 번 수여하는 수학계 최고 영예다. 필즈상 수상 이후에도 뛰어난 연구 성과를 잇달아 내놓은 끝에 이번 아벨상까지 거머쥐며 수학계 최고 권위의 두 상을 모두 품에 안은 수학자 반열에 올랐다.
팔팅스 명예소장은 아벨상 수상 소감으로 "매우 큰 영광으로 느꼈다”며 “받은 모든 상들은 특별한 기억으로 남아 있으며 하나하나 모두 소중하게 생각한다"고 밝혔다. 재능과 노력 중 어느 쪽이냐는 질문에는 "열심히 했지만 결코 맹목적으로 매달리지는 않았다"며 "수학에 재능이 있는 것 같고 운도 따랐다"고 말했다.
1995년부터 막스플랑크 수학연구소 소장을 맡아 후학을 양성하며 본 연구소를 세계적 산술기하학 연구 중심지로 키웠다. 2023년부터 명예소장으로 물러났지만 연구는 계속하고 있다. 당시 그는 ‘행정 회의에 안 가도 된다’며 홀가분함을 내비치기도 했다. 오페라 감상, 정원 가꾸기, 좋은 와인 수집을 즐기는 것으로 알려져 있다.
김 소장은 "대학원생 시절부터 개인적으로 많은 도움을 받았다"며 "교수직을 찾을 때 추천서를 써 주시고 제 이론을 적극 알려주신 직접 지도는 아니었지만 은사나 다름없는 분"이라고 회고했다. 많은 수학자가 엄격하다는 인상을 갖지만 실제로는 매우 공정하고 따뜻한 분이라고도 전했다.
아벨상 시상식은 2026년 5월 26일 오슬로에서 열린다.
[조가현 기자 gahyun@donga.com]
Copyright © 동아사이언스. 무단전재 및 재배포 금지.