수학계 대통일 이론 '랭글랜즈 프로그램' 한발짝…30년 난제 해결
물리학에는 중력과 전자기력, 약력, 강력이라는 자연의 힘을 하나의 언어로 기술하려는 '대통일이론(grand unified theory·GUT)'이 있다. 아직 완성되지는 않았지만 다르게 보이는 상호작용이 하나의 힘에서 갈라져 나온 것이라는 이론이다.
수학에서도 이같은 대통일이론이 있다. 바로 대수기하, 조화해석, 정수 등 수학의 중요 주제를 통합해 하나의 이론으로 설명하는 '랭글랜즈 프로그램'이다. 최근 랭글랜즈 프로그램을 지탱하는 기하학적 추측 하나가 증명됐다는 주장이 나와 수학계가 주목하고 있다.
지난 5월 과학 매체 '뉴사이언티스트'는 샘 래스킨 미국 예일대 교수, 데니스 게이츠고리 미국 하버드대 교수 등 연구자들이 5개의 논문을 통해 랭글랜즈 프로그램의 기하학적 추측 중 하나를 입증했다고 보도했다. 논문의 페이지 수는 합치면 총 1000페이지를 훌쩍 넘긴다.
● 편지에서 시작한 랭글랜즈 프로그램
단어 랭글랜즈 프로그램의 '랭글랜즈'는 캐나다 수학자 로버트 랭글랜즈 미국 프린스턴고등연구소 교수 이름에서 따왔다. 랭글랜즈 프로그램은 랭글랜즈 교수가 1967년 당시 수학계 권위자인 프랑스 수학자 앙드레 베이유에게 보낸 17쪽의 편지에서 시작한다.
그는 편지에서 베이유에게 몇 가지 추측을 제시했다. 간단히 말하면 자신이 방정식의 해를 구하는 근본적인 규칙을 생각해 냈으며 이 규칙이 조화해석, 대수기하 등 다른 수학 분야와 관련돼 있다는 뜻이었다. 실제는 일반적인 L-함수와 보형형식을 아우르는 근본적인 규칙을 찾았다는 내용이다.
2018년 과학문화 비영리 재단 '카오스재단'의 카오스강연에서 신석우 UC 버클리대 교수는 "랭글랜즈의 추측은 방정식을 푸는 것, 풍부한 대칭성을 갖는 함수를 연구하는 것, 방정식 해의 대칭성을 연구하는 '갈루아 이론' 사이에 아주 정확한 방식으로 '유전자'가 공유되고 있다는 말이었다"고 말했다. 랭글랜즈의 추측을 푸는 도전이 랭글랜즈 프로그램이다.
당시엔 랭글랜즈의 주장이 너무 혁신적이라 의심을 사기도 했다. 그러나 점점 추측이 하나둘씩 맞아들고 오랫동안 풀리지 않던 수학계 난제를 푸는 실마리를 제공했다. 영국 옥스퍼드대 앤드루 와일즈는 랭글랜즈의 추측 일부를 증명하며 수학 역사상 가장 유명한 정리인 '페르마의 마지막 정리'를 입증해 냈다. 현재 많은 수학자들이 랭글랜즈 프로그램을 연구하고 있다. 국내 수학자엔 신 교수, 유필상 서울대 교수, 김연수 전남대 교수 등이 있다.
●"정수론을 기하학 언어로 이해하게 도와"
랭글랜즈 추측 증명 과정에서 수학자들은 새로운 시도를 한다. 그중 하나가 정수론을 기반으로 쓰여있던 랭글랜즈 추측을 기하학적 언어로 다시 쓴 랭글랜즈 프로그램의 기하학적 추측이다. 이 추측에 대해 유필상 교수는 "원작이 되는 소설을 영화나 만화로 옮겼다고 이해하면 쉽다"고 설명했다. 랭글랜즈 프로그램의 일부인 셈이다.
이번 결과에 대해 유 교수는 "래스킨 교수와 게이츠고리 교수는 30년 동안 난제로 남아 있었던 랭글랜즈 기하학적 추측의 중요한 부분을 강력하게 증명했다"면서 "아직 검증이 이뤄지지는 않았지만 이 결과를 뒷받침하는 그간 수학계의 축적된 연구와 두 교수의 그동안 성과를 미루어 봤을 때 학계에서는 옳을 것이라 보고 있다"고 말했다.
데이비드 밴즈비 미국 텍사스대 교수는 뉴사이언티스트에 "우리가 랭글랜즈 프로그램의 한 부분을 완전히 이해한 것은 이번이 처음이며 매우 고무적인 결과"라고 말했다.
랭글랜즈 프로그램의 기하학적 추측은 2000년대 들어 물리학과 맞닿아 있다는 것이 알려지며 학계에서 각광받고 있다. 2007년 안톤 카푸스틴 미국 캘리포니아공과대 교수, 에드워트 위튼 프린스턴 고등연구소 교수 등 세계적인 물리학 석학이 4차원 양자장론을 랭글랜즈 프로그램의 기하학적 접근으로 이해할 수 있다고 주장했다.
세상에 존재하는 4가지 기본 힘 가운데 전자기력, 강한 핵력, 약한 핵력을 하나의 이론으로 성공적으로 설명할 수 있다는 것이 양자장론이다. 응집물질 물리학(고체 상태의 물질 연구)과 양자 계산에 적용할 수 있다.
이 추측의 방법론이 정수론 문제를 해결하는 데 실질적으로 도움을 주기도 했다. 2018년 필즈상을 수상한 페터 숄체 독일 본대 교수는 랭글랜즈 프로그램의 기하학적 접근론을 빌려와 기존 랭글랜즈 프로그램을 해결하려는 시도를 하고 있다.
유 교수는 "숄체는 전혀 다른 분야라고 생각됐던 정수론과 기하학 사이에 다리를 놓았다는 점에서 숄체가 높이 평가됐다"면서 "소설을 영화로 만들었는데 영화에 쓰인 아이디어가 재밌어서 원작인 소설에 역으로 미치고 있다고 볼 수 있다"고 했다.
랭글랜즈 프로그램이 이같이 확장하고 영향력을 인정받으면서 랭글랜즈는 2018년 수학계 노벨상으로 불리는 '아벨상'을 수상한다. 뉴욕타임즈는 당시 그의 수상을 보도하며 '1967년 랭글랜즈가 수학의 상이한 분야를 서로 묶는 '대통일 이론'을 증명하기 위한 길잡이를 마련했다'고 썼다.
신 교수는 "랭글랜즈 프로그램을 증명한다고 해서 수학의 모든, 또는 대부분의 문제를 해결할 수는 없지만 우리가 굉장히 강력한 기반 위에 서서 수학을 바라 볼 수 있게 해줄 것"이라고 말했다.
[이채린 기자 rini113@donga.com]
Copyright © 동아사이언스. 무단전재 및 재배포 금지.