167년 안 풀린 수학 최대 난제 ‘리만 가설’, AI가 증명 주장
MIT 수학자 컴퓨터 검사 통과…수학계 최종 검증 남아

AI(인공지능)가 167년 동안 세계 최고 수학자들도 풀지 못한 수학계 최대 난제 ‘리만 가설’을 증명했다는 주장이 나왔다. 앤스로픽의 수학자가 자사 AI 모델 클로드와 함께 1740만줄에 달하는 수학 증명 코드를 공개한 것이다. 최종 검증을 통과한다면 수학사에 남을 역사적 발견이자 AI가 인간 지성의 한계를 넘어선 전환점이 될 수 있다는 평가가 나온다.
앤스로픽 연구원이자 수학자인 레벤트 알포게는 20일(현지 시각) 자신의 홈페이지에 “클로드와 협업해 리만 가설의 증명을 발견했다고 믿는다”며 이 같은 증명을 공개했다. 리만 가설보다 범위가 넓은 ‘일반화 리만 가설’도 풀었다고 주장했다. 포게는 증명 과정을 글로 풀어 쓰려고 했지만 AI가 작성한 설명이 25만쪽을 넘어서자 대신 1740만줄의 코드를 공개했다. 증명 코드는 수학적 논리를 컴퓨터로 검증하는 언어 ‘린(Lean)’으로 작성됐으며, 컴퓨터 검증도 통과했다.
◇수학 천재들도 못 푼 ‘소수의 비밀’
리만 가설은 1859년 독일 수학자 베른하르트 리만이 제기한 문제다. 핵심은 2, 3, 5, 7, 11처럼 1과 자기 자신으로만 나누어떨어지는 ‘소수(素數)’의 규칙을 밝히는 것이다. 소수는 모든 자연수를 이루는 기본 재료여서 ‘숫자의 원자’로 불린다. 하지만 어디에 얼마나 자주 나타나는지 규칙을 찾기 어렵다. 리만은 이처럼 불규칙해 보이는 소수의 분포에 숨겨진 질서가 있다고 생각했다. ‘리만 제타 함수’라는 수학 공식에서 함수 값이 0이 되는 중요한 지점들이 모두 특정한 직선 위에 놓인다는 추측이다. 이 가설이 맞으면 소수가 얼마나 자주 나타나는지 훨씬 정확하게 예측할 수 있다.
컴퓨터로 확인한 10조개의 지점은 모두 리만의 예측과 일치했다. 하지만 숫자는 무한하기 때문에 단 하나의 예외도 없다는 사실을 증명해야 한다.
수학의 거장 다비트 힐베르트가 “천 년 후 깨어난다면 리만 가설이 풀렸는지 가장 먼저 묻겠다”고 말했을 정도로 증명하기 어려운 문제다. 미국 클레이수학연구소는 2000년 리만 가설을 ‘밀레니엄 7대 난제’로 선정하고 100만달러를 상금으로 걸었다. 세계적인 수학자 고드프리 해럴드 하디, 컴퓨터 과학의 아버지 앨런 튜링 등도 이 문제에 도전했지만 끝내 풀지 못했다. 필즈상 수상자인 테런스 타오는 최근 인터뷰에서 “AI 기업들이 리만 가설을 푸는 데 많은 시간을 쏟았겠지만, 결국 손도 대지 못했을 것”이라고 했었다. 하지만 불과 한 달 만에 AI가 증명을 내놓았다는 주장이 나온 것이다.
◇수학계 넘어 현대 과학 판도 바꿀 발견
알포게는 자신이 방향은 제시했지만, 여러 증명 단계에서 AI의 역할이 컸다고 했다. 특히 마무리 단계에서는 “클로드가 나를 훨씬 앞질러 날아오르고 춤추고 반짝였다”고 했다. 그는 증명의 수학적 배경을 자신도 완전히 이해하지 못했다고 털어놨다. AI가 만든 방대한 증명을 인간 수학자가 이해하고 설명해야 하는 상황이 된 것이다.
MIT 수학자 앤드루 서덜랜드는 공개된 증명 코드 17만5000여개 파일을 별도로 검사했다. 그 결과 코드가 오류 없이 처리됐고, 수학적 논리를 확인하는 독립 검증 프로그램도 통과했다고 밝혔다. 다만 수학계가 증명의 내용을 충분히 이해하고 최종적으로 인정하는 절차는 남아 있다. 공식 해법으로 인정되려면 학술지 발표 후 최소 2년이 지나야 하며, 국제 수학계의 폭넓은 검증도 거쳐야 한다.
이번 발견이 주목받는 또 다른 이유는 AI가 과학 연구에서 수행할 역할을 바꿀 수 있기 때문이다. 인간이 100년 넘게 풀지 못한 문제를 AI가 방대한 계산과 논증으로 해결하고, 인간은 그 결과를 검증하고 이해하는 방식으로 전환될 수 있다는 것이다.
알포게는 “연구 과정에서 목격한 발전은 너무나 놀라웠다”며 “과학 전반에서 훨씬 더 거대한 무언가가 시작되는 새벽이 온 것 같다”고 밝혔다. 리만 가설 연구의 세계적 권위자인 미국 수학자 브라이언 콘리는 “수학 역사상 가장 큰 사건이자 인류 역사의 기념비적 순간”이라고 했다.
Copyright © 조선일보. 무단전재 및 재배포 금지.
- 코레일, 경부선 화물열차 궤도 이탈에 “긴급 임시열차 15대 투입”
- 부안서 90도 온천탕에 빠진 60대 화상…헬기 이송
- 국어 7→2등급… ‘리트 만점자’ 3년 전 수능에도 물음표
- ‘7만전자·20만닉스’ 말한 전문가... “본격 폭락, 아직 시작도 안했다”
- 李 울산 AI 데이터센터 건설 현장 방문…“인력 부족 문제 정부에서 고민 많이 할 것”
- 수험생 43% “올해 수능, 약간 어려웠어”
- “앞치마 입고 시험보라”... 대학 논술장도 초긴장
- 與 “조희대 대법원장 탄핵안, 내란 2주기인 12월3일 발의 추진”
- 주유소 기름값 27주째 하락… 하락 폭은 미미
- 서산 아파트 상가서 가스 폭발… 60대 부부 화상 입어