구글 딥마인드AI, 미해결 수학 난제 13개 풀었다

제미나이 기반 수학 에이전트 ‘알레테이아
에르되시 문제서 의미 있는 해답 제시
김상현 교수 등 국내 수학계 검증 참여

구글 산하의 인공지능(AI) 연구 기업 딥마인드의 수학 AI 에이전트 '알레테이아'(Aletheia)가 세계적 미해결 문제 모음으로 꼽히는 '에르되시 문제' 가운데 13개에 대해 의미 있는 해답을 제시한 것으로 나타났다.

알레테이아는 약 700개의 미해결 문제를 단기간에 검토하고 일부 문제에 대해 스스로 해법을 도출했으며, 이 과정에서 인간 수학자들과 증명을 주고받으며 이론을 확장하는 등 실제 수학자와 유사한 협업 양상을 보였다.

8일 수학계에 따르면 탕루옹 구글 딥마인드 선임연구원과 토니 펭 미국 버클리대 교수, 김상현 고등과학원 교수, 정준혁 미국 브라운대 교수 등으로 구성된 연구진은 이달 2일 논문 사전공개 사이트 '아카이브'(arXiv)에 이러한 연구 결과를 담은 논문을 발표했다.

에르되시 문제는 헝가리 출신의 전설적 수학자 에르되시 팔이 제시한 조합론·수론 분야 문제 모음으로, 총 1179개 가운데 약 700개가 아직 미해결 상태다. 최근에는 이 문제들이 AI의 수학 능력을 가늠하는 대표적 벤치마크로 활용되고 있다.

고대 그리스어로 '진리'를 뜻하는 알레테이아는 구글의 생성형 AI '제미나이'의 고급 추론 모드 '딥씽크'를 기반으로 한 수학 연구 에이전트로, 연구팀은 지난해 12월 약 일주일간 알레테이아를 에르되시 문제 700개에 투입했다.

알레테이아는 이 가운데 200개 문제에 대해 해답을 찾았다고 주장했고, 김 교수 등 수학자들이 한 달간 정밀 분석한 결과 해답 63개를 추렸다. 이후 최종적으로 13개 문제 풀이가 수학적으로 의미 있는 해답을 제시한 사례로 평가됐다.이들 문제 중에는 완전히 새로운 해법을 제시한 경우도 있었고, 잘 알려지지 않았던 과거의 풀이를 찾아낸 것도 있었다. 이미 알려진 결과를 다른 방식으로 증명하기도 했고, 기존 정리를 에르되시 문제에 처음 적용한 사례도 있었다.

김 교수는 "상당수는 아이디어 자체는 단순하지만, 그동안 인간이 시도하지 않아 풀리지 않았던 문제들"이라며 "그중 5~6개 정도는 참신한 해답이라고 볼 수 있다"고 평가했다.

이번 연구는 AI를 과학 연구에 적용해 혁신을 가속하려는 최근 흐름을 보여주는 사례로도 평가된다.

수학 분야에서는 이미 AI가 국제수학올림피아드 문제를 정복했고, 에르되시 문제를 AI 수학 능력을 가늠하는 벤치마크로 활용하는 분위기다.

다만 전문가들은 AI가 아직 인간 수학자를 대체할 수준은 아니라며 신중한 접근이 필요하다고 강조했다.

논문 저자들 역시 "이번 결과의 수학적 중요성을 과도하게 평가해서는 안 된다"며 AI가 기존 연구를 출처 없이 재구성하는 잠재적 표절 위험에 대해서도 우려를 나타냈다.

김 교수는 "수학자들이 AI에 기대하는 것은 정답이 아니라, 인간이 생각하지 못한 길을 가보라고 속삭여 주는 것"이라며 "수천 년간 쌓아온 수학 커뮤니티의 질서 속에서 AI를 도구로 활용하는 것이 수학 발전의 방향이라고 본다"고 강조했다.

이미선 기자 already@dt.co.kr

구글 제미나이 일러스트. 로이터=연합뉴스