“1만개 AI가 88시간 만에”…오픈AI, 100만달러 수학 난제 풀었다고 발표

스마트폰 화면에 표시된 오픈AI 로고. 오픈AI는 AI를 이용해 수학계의 대표적 난제인 ‘나비에-스토크스 문제’의 해법을 찾았다고 발표했다. 게티이미지코리아

오픈AI가 인공지능(AI)을 이용해 세계 수학계의 대표적인 미해결 난제인 ‘밀레니엄 문제’ 가운데 하나의 해법을 제시했다고 발표했다. 미공개 최신 AI 모델과 최대 1만개의 AI 에이전트를 동원해 88시간 만에 증명을 만들어냈다는 것이다.

8일(현지시간) 뉴욕타임스(NYT)에 따르면 오픈AI가 도전한 과제는 ‘나비에-스토크스 존재성과 매끄러움 문제(Navier-Stokes existence and smoothness problem)’다. 19세기에 정립된 나비에-스토크스 방정식은 물이나 공기 같은 유체의 움직임을 설명하며 기상 예측 등에 활용된다.

난제의 핵심은 3차원 공간에서 이 방정식의 해가 항상 매끄럽게 유지되는지, 아니면 특정 조건에서 ‘특이점’이 생길 수 있는지를 수학적으로 입증하는 것이다. 오픈AI는 이번 증명을 통해 그러한 특이점이 발생할 수 있음을 보였다고 주장했다.

NYT는 이를 이론적으로 방정식이 특정 조건에서 더 이상 정상적인 해를 유지하지 못할 수 있다는 의미라고 설명했다. 다만 수학자와 물리학자들은 이것이 현실에서 물이 갑자기 폭발하는 것과 같은 현상을 뜻하지는 않는다고 전했다.

● 100만 달러 걸린 ‘밀레니엄 문제’…공식 해결까지는 검증 남아

나비에-스토크스 문제는 미국 클레이수학연구소가 2000년 선정한 7대 ‘밀레니엄 문제’ 가운데 하나다. 각 문제에는 100만 달러의 상금이 걸려 있다. 지금까지 공식적으로 해결된 것은 2000년대 초 러시아 수학자 그리고리 페렐만이 증명한 ‘푸앵카레 추측’뿐이며, 나머지 6개는 미해결 상태다.

오픈AI는 이번 해법을 설명한 논문과 함께 수학 정리 증명용 프로그래밍 언어 ‘린(Lean)’으로 작성한 형식 증명을 공개했다. 린은 수학적 증명을 컴퓨터로 검증할 수 있도록 만든 도구다.

오픈AI의 발표만으로 나비에-스토크스 문제가 공식 해결된 것은 아니다. 공개된 증명에 대한 수학계의 검증이 필요하다. 클레이수학연구소가 공식 해법으로 인정하려면 적격 학술 매체에 해법이 발표된 뒤 최소 2년이 지나야 하며, 세계 수학계에서 일반적인 인정을 받아야 한다.

● 1만개 AI가 협력…인간은 ‘호박벌’ 역할

이번 연구의 특징은 단일 AI가 아닌 최대 1만개의 AI 에이전트를 동원했다는 점이다. AI들이 여러 방향으로 문제를 탐색하면 인간 연구진이 각 그룹에서 나온 핵심 아이디어를 다른 그룹에 전달했다. 오픈AI 연구원 댄 로버츠는 연구진의 역할을 여러 그룹 사이에서 정보를 옮기는 “호박벌”에 비유했다.

지난 1월에는 오픈AI와 스타트업 하모닉의 AI가 20세기 수학자 폴 에르되시가 남긴 미해결 문제 가운데 하나의 해법을 내놓았다. 당시에는 AI가 만든 해법이 기존 인간 수학자들의 연구와 크게 다르지 않다는 지적도 나왔다.

이번에 오픈AI가 도전한 밀레니엄 문제는 그보다 훨씬 복잡하고 수학계의 관심도 큰 난제다. NYT는 최근 AI가 해결한 여러 수학 문제 가운데 나비에-스토스 문제가 복잡성과 주목도 면에서 차원이 다르다고 전했다.

연산 비용도 막대했다. 오픈AI 연구과학자 노엄 브라운은 최대 1만개의 AI 에이전트를 동원한 이번 작업을 “매우 비싼 과정”이라고 설명했다. 다만 AI 시스템의 효율이 높아지면 앞으로 같은 작업에 드는 비용은 낮아질 것으로 내다봤다.

● “AI가 대신 역기 들어주는 셈”…수학자들은 왜 우려하나

AI가 최고 난도의 수학 문제까지 풀기 시작하면서 수학계에서는 기대와 우려가 함께 나온다.

세계적인 수학자 테런스 타오 미국 UCLA 교수는 밀레니엄 문제를 수학자들의 노력을 끌어당기는 “등대”에 비유했다. 난제를 풀기 위해 시행착오를 거치는 과정 자체가 새로운 수학적 통찰을 만들어낸다는 뜻이다.

타오 교수는 AI가 문제 해결을 대신하는 상황을 헬스장에서 기계가 사람 대신 역기를 들어주는 것에 빗댔다. 문제를 풀기 위해 들이는 노력 자체가 수학자를 훈련시키는데, AI가 답을 바로 제시하면 인간이 그 과정에서 얻는 지식과 통찰이 줄어들 수 있다는 지적이다.

최현정 기자 phoebe@donga.com