오픈AI ‘AI가 수학 난제 풀었다’…26년 만의 해법에 ‘연구 활용’ 논란도

차세대 AI로 ‘나비에-스토크스 문제’ 해결 주장
최대 1만개 AI 에이전트 투입, 88시간 집중 연산
165쪽 증명·컴퓨터 검증 공개, 수학계 검증 관건
경쟁 연구 활용 의혹도…NYU 교수 ‘정보 넘어갔다’

나비에-스토크스 방정식 해법에서 나타나는 비압축성 유체의 움직임. 주황색은 빠른 회전을, 청록색은 느린 회전을 나타내며 유체가 안쪽으로 소용돌이치면서 축 방향으로 늘어나는 모습을 보여준다. [그림=오픈AI]

오픈AI가 인공지능(AI)을 이용해 수학계의 최고 난제로 꼽히는 ‘밀레니엄 문제’ 가운데 하나를 풀었다고 주장했다. 사실로 확인되면 2000년 7개 밀레니엄 문제가 선정된 이후 두 번째 해법이자 AI가 인간 수학자들이 수십 년간 풀지 못한 최고 수준의 난제를 해결한 첫 사례가 된다. 다만 비슷한 문제를 연구하던 수학자들이 연구 정보 활용 의혹을 제기하면서 논란도 불거졌다.

오픈AI는 8일(현지시간) 자체 차세대 AI 모델이 ‘나비에-스토크스 방정식의 존재성과 매끄러움 문제’를 해결했다며 165쪽 분량의 증명을 공개했다. 나비에-스토크스 방정식은 물과 공기 같은 유체가 어떻게 움직이는지를 설명하는 방정식이다. 항공기 설계와 기상 예측, 혈류 분석 등에도 활용되지만 3차원 공간에서 처음에 매끄럽게 움직이던 유체가 계속 안정적인 상태를 유지하는지는 수학적으로 증명되지 않았다.

오픈AI는 처음에는 매끄럽고 정지해 있던 유체에서도 일정 시간이 지나면 속도 등이 무한대로 치솟는 ‘특이점’이 발생할 수 있는 사례를 찾아냈다고 밝혔다. 증명에서는 가느다란 소용돌이가 점점 작아지는 동시에 빠르게 회전하면서 속도가 무한히 커지는 현상이 나타난다. 이른바 ‘유한시간 폭발’이다.

이번 문제는 미국 클레이수학연구소가 2000년 선정한 7개 밀레니엄 문제 중 하나다. 각각의 문제를 해결하면 100만달러의 상금이 걸려 있다. 지금까지 공식적으로 해결된 것은 러시아 수학자 그리고리 페렐만이 증명한 ‘푸앵카레 추측’뿐이다. 페렐만은 2010년 상금을 거절했다. 오픈AI 역시 이번 결과로 밀레니엄 상금을 신청할 계획은 없다고 밝혔다.

오픈AI는 이번 해법을 찾는 데 막대한 AI 연산 능력을 동원했다. 최대 1만개의 AI 에이전트가 약 88시간 동안 협업했으며 나비에-스토크스 문제를 해결하는 과정에서 270만개의 메시지를 주고받고 1300억개의 출력 토큰을 사용했다고 밝혔다. 책 약 100만권에 해당하는 분량이다. 테크크런치는 “전체 프로젝트에 사용된 연산량을 현행 GPT-6 아스트라 가격으로 환산하면 약 2250만달러에 해당한다”고 추산했다. 오픈AI는 월스트리트저널(WSJ)에 “수백만달러 상당의 컴퓨팅 자원이 투입됐다”고 밝혔다.

주목되는 것은 문제를 푼 AI의 성능이다. 오픈AI에 따르면 이번 연구에는 아직 공개하지 않은 차세대 모델이 사용됐다. 지난주 공개한 GPT-6 아스트라보다 ‘더 뛰어난’ 모델이라는 설명이다.

오픈AI는 지난달 말부터 이 모델을 훈련해 왔으며 지난 1일 아직 풀리지 않은 밀레니엄 문제 6개를 동시에 풀도록 했다. 약 50시간 뒤 나비에-스토크스 문제에서 진전이 나타나자 연구진은 다른 다섯 문제에 투입됐던 연산 자원을 이곳으로 집중했다. AI 에이전트 수도 100개에서 최대 1만개까지 늘렸다. 오픈AI는 지난 5일 작업을 마쳤고 이튿날 컴퓨터를 이용한 검증까지 완료했다고 설명했다.

야쿠프 파초키 오픈AI 수석과학자는 “한 달 전만 해도 우리가 밀레니엄 문제를 이야기하게 될 것이라고 예상하지 못했을 것”이라며 “AI가 얼마나 멀리 왔고 얼마나 빠르게 발전하고 있는지를 보여주는 사례”라고 말했다. 최근 AI 모델들은 국제수학올림피아드(IMO)에서 은메달, 금메달 수준의 성적을 내는 데 이어 실제 미해결 수학 문제를 푸는 단계까지 빠르게 발전하고 있다.

그러나 이번 성과를 둘러싸고 연구 윤리 논란도 벌어졌다. 테크크런치에 따르면 뉴욕대(NYU)의 수학자 트리스탄 벅마스터 교수와 앤트로픽 소속 수학자 레벤트 알푀게는 오픈AI의 코덱스와 앤트로픽의 클로드 등을 활용해 나비에-스토크스와 관련된 별도 연구를 진행하고 있었다. 벅마스터 교수는 자신들의 연구 진척 상황이 공개 전에 오픈AI 측에 전달됐으며 오픈AI가 이후 막대한 컴퓨팅 자원을 투입해 같은 방향의 연구를 빠르게 밀어붙였다는 의혹을 제기했다.

특히 벅마스터 교수는 자신들이 택한 접근법을 연구하는 사람이 거의 없었는데 오픈AI가 비슷한 시기에 같은 방향으로 문제를 풀기 시작했다는 점을 문제 삼았다. 연구 과정에서 코덱스를 광범위하게 사용했기 때문에 자신의 작업에서 나온 정보가 오픈AI 모델 개선에 간접적으로 활용됐을 가능성도 제기했다.

오픈AI는 이를 부인했다. 오픈AI는 “연구진과 AI 에이전트 모두 벅마스터 교수 측의 연구가 공개되기 전에는 해당 내용을 보지 못했으며 문제를 해결하기 위해 특정 이용자의 데이터를 열람한 사실도 없다”고 밝혔다. 다만 “이용자들의 비식별화된 사용 데이터가 모델 개선에 영향을 줬을 가능성까지는 ‘배제할 수 없다’”고 덧붙였다. [실리콘밸리 원호섭 특파원]