앤트로픽 연구원 “AI로 리만 가설 증명 발견”…‘167년 수학난제’ 풀었나

박민희 기자 2026. 11. 21. 15:06
자동요약 기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다.
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.

인공지능(AI) 기업 앤트로픽의 한 연구원이 자사의 AI 모델 클로드를 이용해 수학계의 최대 난제 중 하나로 꼽히는 리만 가설을 증명했다고 주장하면서, 전세계 학계의 관심이 집중되고 있다.

수학자이기도 한 앤트로픽 연구원 레벤트 알포게는 20일(현지시각)자신의 웹사이트에 올린 글과 4쪽짜리 문서를 통해 "클로드와 협업해 리만 가설의 증명을 발견했다고 믿는다"고 주장했다.

음성재생 설정 이동 통신망에서 음성 재생 시 데이터 요금이 발생할 수 있습니다. 글자 수 10,000자 초과 시 일부만 음성으로 제공합니다.
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

수학자들 “인류 역사상 기념비적 순간”
아직 전문가 정밀 검증 거치지 않아
19일 미국 뉴욕에서 AI 기업 앤트로픽 상장을 알리는 광고판 앞으로 한 행인이 자전거를 타고 지나가고 있다. 뉴욕/AFP 연합뉴스

인공지능(AI) 기업 앤트로픽의 한 연구원이 자사의 AI 모델 클로드를 이용해 수학계의 최대 난제 중 하나로 꼽히는 리만 가설을 증명했다고 주장하면서, 전세계 학계의 관심이 집중되고 있다.

수학자이기도 한 앤트로픽 연구원 레벤트 알포게는 20일(현지시각)자신의 웹사이트에 올린 글과 4쪽짜리 문서를 통해 “클로드와 협업해 리만 가설의 증명을 발견했다고 믿는다”고 주장했다. 수학자인 제임스 메이너드 옥스퍼드대 교수는 ‘이코노미스트’에 “만약 이 증명이 완벽하게 검증된다면, 이는 명백히 역사적인 이정표가 될 것”이라고 말했다.

1859년 독일 수학자 베른하르트 리만이 제기한 리만 가설은 정수론의 핵심 난제로, 1과 자기 자신으로만 나누어떨어지는 ‘소수'(Prime Number)의 분포와 규칙에 관한 문제다. 무작위로 나타나는 것처럼 보이는 소수들이 실제로는 ‘리만 제타 함수'라는 복소수 함수의 특정 값(자명하지 않은 영점)을 기준으로 일정한 질서와 패턴을 따른다는 것이 가설의 핵심이다. 이후 167년 동안 수학자들은 이 가설을 증명하기 위해 매달려 왔다. 소수는 현대 인터넷 금융과 암호화폐 등에서 쓰이는 공개키 암호(RSA) 체계의 수학적 토대를 이루기 때문에 리만 가설의 증명은 암호학, 양자물리학, 전산학 전반에 막대한 파장을 미칠 수 있다.

알포게 연구원이 자신의 웹사이트에 ‘remark.pdf’라는 파일명으로 게시한 이 증명은 아직 동료 수학자들의 검증을 거쳐야 한다. 하지만 그가 최근 몇 달간 AI를 이용해 수학계의 난제들을 해결하는 데 중요한 역할을 해왔기 때문에, 수학자들이 그의 주장을 더욱 주목하고 있다.

알포게는 AI가 자신이 이해하지 못한 부분을 풀었고, 자신은 완전히 이해하지 못한 상태에서 이를 발표한다고 밝혔다. 그는 AI를 활용한 작업 분량이 25만 쪽을 넘겼다며 “결승선에 가까워질 무렵 클로드가 나를 크게 앞질러 날아오르고 춤추고 반짝였다”며 “주변 수학적 배경을 완전히 숙지하지 못한 채 완전한 논증을 세상에 내놓는 이례적 상황에 놓였다”고 털어놨다. 알포게는 컴퓨터로 수학적 논증을 검증하는 프로그래밍 언어 ‘린'(Lean)으로 작성한 증명 버전을 우선 공개했으며 더 광범위한 ‘일반화 리만 가설'까지 해결했다고 주장했다.

그는 다리오 아모데이 앤트로픽 최고경영자(CEO)와 상의 후 결과를 발표했다고 전하면서 발표 시점이 냉소적인 시선을 받을 수 있다는 점을 인정했다. 이번 발표는 앤트로픽이 상장(IPO)한 다음 날 나왔다.

이 주장은 아직 독립적으로 검증되거나 외부 전문가의 정밀 검토를 거치진 않았지만, 여러 수학자들은 큰 의미를 부여하고 있다. 리만 가설 분야의 권위자인 브라이언 콘리는 AFP통신에 “인류 역사상 기념비적 순간”이라며 “내 생각엔 수학사에서 일어난 일 중 정말 가장 큰 사건”이라고 평가했다. 그러면서 “논문 원고는 보지 못했고 알포게가 웹사이트에 올린 글만 확인했으며 원고 사본을 요청해 놨다”며 “(증명 방식이) 상당히 복잡해 보이고 이를 증명할 더 간단한 방법들이 나올 것으로 믿는다”고 말했다. 많은 전문가들은 증명의 타당성 여부와 함께 AI가 도대체 어떻게 이러한 결론에 도달했는지 과정에도 관심을 기울이고 있다. 이번 결과는 갑자기 나온 것이 아니다. 앞서 10월6일 오픈AI는 자사 모델 중 하나가 완전한 리만 가설로 나아가는 중요한 디딤돌인 ‘준 리만 가설(quasi-Riemann hypothesis)’을 해결했다고 발표한 바 있다. 옥스퍼드 대학교의 수학자 조너선 키팅은 ‘이코노미스트’에 “준 리만 가설의 증명 자체만으로도 엄청난 충격이었고, 내 생애에 그것이 증명되는 것을 보게 될 줄은 꿈에도 생각지 못했다”며 “하지만 이번 성과는 그보다 몇 차원은 더 충격적”이라고 말했다.

박민희 선임기자 minggu@hani.co.kr

Copyright © 한겨레신문사 All Rights Reserved. 무단 전재, 재배포, AI 학습 및 활용 금지