"90년 수학 난제 풀었다"…AI는 88시간, 공식 인정은 최소 2년?[사이언스 PICK]

오픈AI, 1만개 AI 에이전트로 나비에-스토크스 유한시간 특이점 반례 제시
형식검증 통과해도 문제·가정 일치 여부 인간이 확인…공식 인정까지 장기간
전문가 "답 생성 넘어 이해·정준화 필요"…연구자료 활용·공로 배분도 과제

[보스턴=AP/뉴시스] 2023년 3월17일 미국 보스턴에서 컴퓨터 화면에 챗GPT 홈페이지가 표시된 가운데 휴대전화에 오픈AI 로고가 보이고 있다. 2023.03.17.

[서울=뉴시스]윤현성 기자 = 인공지능(AI)이 90년 가까이 풀리지 않던 수학 난제의 해법 후보를 단 88시간 만에 제시했다. 다만 이 해법이 정식 수학 지식으로 수용되기까지는 최소 수년의 시간이 걸릴 전망이다.

AI가 증명 탐색의 속도를 끌어올리면서 수학 연구의 핵심 축이 '답을 찾는 일'에서 '답을 검증하고 이해하는 일'로 옮겨가고 있다는 평가가 나온다.

오픈AI는 최근 차세대 AI 모델을 활용해 3차원 '나비에-스토크스 방정식'에서 유한한 시간 안에 특이점이 생길 수 있다는 증명을 공개했다.

물·공기 흐름 계산하는 방정식…AI, 속도값 끝없이 커지는 반례 제시

1만개 AI가 88시간 동안 풀었지만…'답 찾기'보다 긴 검증

3차원 비압축성 나비에-스토크스 유체의 국소적인 소용돌이 운동을 시각화한 모습. 유체가 안쪽으로 나선형 회전하는 동시에 축 방향으로 늘어나는 '소용돌이 신장' 현상이 나타난다. 주황색은 각회전이 빠른 영역, 청록색은 느린 영역을 나타낸다. (사진=오픈AI) *재판매 및 DB 금지

나비에-스토크스 방정식은 물이나 공기의 각 부분이 어느 방향으로 얼마나 빠르게 움직이는지를 계산하는 수학식이다. 일기예보와 항공기 설계, 혈류 분석 등에 널리 쓰인다. 90년 가까이 풀리지 않아 미국 클레이 수학연구소가 지정한 수학계 7대 난제로도 꼽힌다.

3차원 유체가 처음에 매끄럽게 움직이더라도 이 상태가 유지되는지, 혹은 속도 계산값이 끝없이 커지는 '특이점'이 발생하는지는 오랜 수수께끼였다.

오픈AI가 택한 방법은 '항상 매끄럽다'는 주장을 깨는 예외 사례인 반례를 찾는 것이었다. 정지해 있던 유체에 부드럽게 외부의 힘을 가하자 소용돌이가 점점 가늘고 빠르게 변해, 전체 에너지는 유한한데도 속도 계산값은 유한한 시간 안에 끝없이 커지는 흐름을 만들었다.

외부의 힘이 있는 경우도 클레이 수학연구소의 공식 문제 C·D에 포함돼 증명이 맞다면 밀레니엄 난제를 해결한 것으로 볼 수 있다. 다만 이번 오픈AI의 모델의 증명은 외부의 힘이 없는 경우까지 포괄하지는 않았다. 수학적 특이점을 실제 물이나 공기가 무한한 속도로 움직이는 현상으로 보거나, 일기예보·항공기 설계가 당장 개선된다고 해석해서도 안 된다.

임성빈 고려대 통계학과 교수는 "현대수학에서 방정식을 풀었다는 것은 계산을 빨리 할 수 있는 공식을 찾는다는 개념이 아니다"라며 "이번에 발표한 내용은 방정식을 풀 수 없는 반례를 발표한 것"이라고 설명했다.
오픈AI는 AI 에이전트 약 1만개를 여러 집단으로 나눠 서로 다른 풀이를 시도하게 했다. 가상의 수학자 1만명이 동시에 연구한 것과 비슷하다. 이들은 88시간 동안 270만개의 메시지를 주고받고 1300억개의 출력 토큰을 사용했다. 오픈AI 연구진은 코덱스로 각 집단의 유용한 결과를 모아 다른 집단에 전달했다.

증명을 찾은 뒤에는 GPT-6 아스트라가 17시간에 걸쳐 이를 정리 증명기인 린(Lean)이 읽을 수 있는 형태로 옮겼다. 린은 증명의 각 단계를 컴퓨터가 이해할 수 있는 언어로 작성하면 논리 규칙을 어긴 부분이 없는지 검사하는 도구다.

다만 린의 검사를 통과했다고 공식 검증이 끝나는 것은 아니다. 시험 답안의 풀이 과정에 오류가 없는지는 확인했지만, 애초에 시험 문제와 조건을 정확히 옮겨 적었는지는 다시 살펴봐야 하는 것과 같다. 린에 입력한 문제가 원래 밀레니엄 문제와 정확히 같은지, 빠진 조건이나 부적절한 가정은 없는지는 인간 수학자들이 확인해야 한다.

클레이 수학연구소도 해법이 지정 학술지에 게재되고 최소 2년이 지난 뒤에야 검증 심사를 시작한다.

이준상 연세대 기계공학부 교수는 "외력을 허용하는 경우도 공식 문제에 포함되므로 독립적인 검증을 통과한다면 매우 중요한 수학적 성과"라고 말했다.

AI가 만든 증명, 사람도 이해해야 비로소 '수학 지식'

논리 오류가 없다는 확인과 사람이 증명을 읽고 이해하는 일도 별개다. 테렌스 타오 UCLA 교수는 AI가 답을 만들어도 인간이 이해할 수 있는 개념으로 정리하지 못하면 후속 연구나 교육에 쓰기 어렵다고 지적했다. AI가 던진 답을 인간의 지식으로 변환하는 작업이 필수가 됐다.

임 교수는 "인간에 의한 검증 단계에서 발생하는 병목이 해결되고, 인간이 이해할 수 있는 지식으로 편입하는 정준화 작업이 필요하다"고 말했다. 박한우 영남대 사회과학대 학장도 "AI는 강력한 답변 후보 생성기가 될 수 있지만 최종적인 검증과 학문적 수용은 여전히 인간 연구 공동체의 몫"이라고 강조했다.

이번 발표는 AI가 만든 증명의 공로를 누구에게 돌릴 것인지라는 문제도 남겼다. 벅마스터 교수와 앤트로픽 소속 알푀게 연구원은 자신들의 연구 초안을 코덱스에 입력해 왔다. 벅마스터 교수는 해당 자료가 오픈AI 모델 훈련에 쓰였는지를 확인하지 못했다며 문제를 제기했다.

오픈AI는 문제를 풀기 위해 특정 사용자 데이터에 접근하지 않았다고 반박했다. 다만 비식별 이용 데이터가 모델 개선에 간접적으로 도움을 줬을 가능성은 낮지만 완전히 배제할 수 없다고 인정했다.

배한택 UNIST 수리과학과 교수는 "이번 성과는 AI가 복잡한 수학 연구를 가속하는 거대한 전기를 마련했다"면서도 "선행 연구 데이터 활용 및 공로 배분 논란은 수학계에 큰 경종을 울렸다"고 진단했다.


☞공감언론 뉴시스 hsyhs@newsis.com