“167년 수학 난제 ‘리만가설’, AI가 풀었다”…앤트로픽, 가설 증명 주장

윤성현 2026. 11. 21. 08:54
자동요약 기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다.
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.

167년 동안 수학자들을 괴롭혀온 난제를 인공지능(AI)이 풀었을까. AI 기업 앤트로픽의 연구원이 자사 챗봇 '클로드'를 활용해 수학계의 최대 난제 중 하나인 '리만 가설'을 증명했다고 주장했다.

20일(현지시간) AFP통신과 파이낸셜타임스(FT) 등에 따르면 앤트로픽 연구원이자 수학자인 레벤트 알포게는 이날 자신의 웹사이트에 공개한 4쪽짜리 문서를 통해 "클로드와 협업해 리만 가설의 증명을 발견했다고 믿는다"고 밝혔다.

음성재생 설정 이동 통신망에서 음성 재생 시 데이터 요금이 발생할 수 있습니다. 글자 수 10,000자 초과 시 일부만 음성으로 제공합니다.
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

전문가 “검증되면 수학·AI 역사 바꿀 사건”
클로드 로고. [로이터]

[헤럴드경제=윤성현 기자] 167년 동안 수학자들을 괴롭혀온 난제를 인공지능(AI)이 풀었을까. AI 기업 앤트로픽의 연구원이 자사 챗봇 ‘클로드’를 활용해 수학계의 최대 난제 중 하나인 ‘리만 가설’을 증명했다고 주장했다. 연구 과정에서 AI가 자신의 수학적 이해를 앞질렀다는 설명도 내놨다.

20일(현지시간) AFP통신과 파이낸셜타임스(FT) 등에 따르면 앤트로픽 연구원이자 수학자인 레벤트 알포게는 이날 자신의 웹사이트에 공개한 4쪽짜리 문서를 통해 “클로드와 협업해 리만 가설의 증명을 발견했다고 믿는다”고 밝혔다.

리만 가설은 1859년 독일 수학자 베른하르트 리만이 제기한 문제다. 소수가 자연수 사이에 어떤 규칙으로 분포하는지를 설명하는 데 핵심적인 역할을 한다. 167년 동안 수많은 수학자가 도전했지만 아직 공식적으로 증명되지 않았다.

가설의 핵심은 리만 제타 함수의 자명하지 않은 모든 영점이 복소평면에서 실수부가 2분의 1인 직선 위에 놓인다는 것이다. 얼핏 추상적인 수학 문제처럼 보이지만, 소수의 분포를 이해하는 데 중요한 열쇠로 꼽힌다.

알포게는 수학적 논증을 컴퓨터로 검증하는 프로그래밍 언어 ‘린(Lean)’으로 작성한 증명 자료를 공개했다. 리만 가설뿐 아니라 이를 확장한 ‘일반화 리만 가설’까지 증명했다고 주장했다.

이번 발표에서 가장 눈길을 끄는 부분은 AI의 역할이다. 알포게는 클로드와 함께 작업한 분량이 25만 쪽을 넘었다고 설명했다. 연구 후반부에는 AI가 자신의 이해 수준을 넘어서는 단계에 이르렀다고도 했다.

그는 “결승선에 가까워질 무렵 클로드가 나를 크게 앞질러 날아오르고 춤추고 반짝였다”며 “주변 수학적 배경을 완전히 숙지하지 못한 채 완전한 논증을 세상에 내놓는 이례적인 상황에 놓였다”고 말했다.

다만 증명이 실제로 타당한지는 아직 확인되지 않았다. 외부 전문가들의 정밀한 검토와 독립적인 재현이 남아 있다. 리만 가설 연구의 권위자인 브라이언 콘리는 AFP통신에 “인류 역사상 기념비적인 순간”이라며 “수학사에서 일어난 일 가운데 가장 큰 사건”이라고 평가했다. 그러나 그는 아직 논문 원고를 보지 못했고, 알포게가 웹사이트에 올린 글만 확인했다고 덧붙였다.

킷 예이츠 영국 배스대 교수도 “치열한 검증을 받게 될 것”이라며 “검증을 통과한다면 수학과 AI의 역량에 대한 우리의 이해 모두에 엄청난 파장을 낳을 것”이라고 말했다.

발표 시점을 둘러싼 논란도 예상된다. 알포게는 다리오 아모데이 앤트로픽 최고경영자(CEO)와 상의한 뒤 연구 결과를 공개했다고 밝혔다. 앤트로픽의 기업공개(IPO) 직후 발표가 이뤄진 만큼 시점에 대한 회의적인 시각이 나올 수 있다는 점도 인정했다.

AI를 활용한 수학 난제 해결 경쟁은 이미 본격화하고 있다. 앞서 오픈AI는 지난 9월 자사 AI 모델이 또 다른 밀레니엄 난제인 ‘나비에-스토크스 문제’의 해법을 개발했다고 발표했다.

이 과정에서 알포게는 오픈AI가 자신의 연구 데이터를 활용했을 가능성을 제기했고, 샘 올트먼 오픈AI CEO는 근거 없는 표절 주장이라고 반박했다. 오픈AI가 지난달 공개한 수백 편의 수학 논문을 두고도 전문가들 사이에서는 의미 있는 성과와 오류가 혼재했다는 평가가 나왔다.

네스토르 기옌 뉴욕대 수학과 객원교수는 알포게가 증명을 완전히 이해하지 못했다고 밝힌 점을 긍정적으로 평가하며, AI가 인간을 대체하는 존재가 아닌 연구를 지원하는 도구로 작동할 수 있다는 견해를 밝혔다.

리만 가설은 소수가 자연수 사이에 어떤 규칙으로 분포하는지 설명하는 데 핵심적인 역할을 하는 문제다. 리만 제타 함수의 자명하지 않은 모든 영점이 복소평면에서 실수부가 2분의 1인 직선 위에 놓인다는 것이 가설의 핵심이다.

미국 클레이 수학연구소는 2000년 리만 가설을 포함한 7개 문제를 ‘밀레니엄 난제’로 선정하고 각각 100만달러의 상금을 내걸었다. 해법으로 공식 인정받으려면 학술 매체에 증명이 게재된 뒤 최소 2년간 수학계의 검증과 폭넓은 동의를 거쳐야 한다.

Copyright © 헤럴드경제. 무단전재 및 재배포 금지.