난제 푼 AI에 “수학의 목표인 통찰 거슬러”…허준이 등 필즈상 25인 공동서한

오픈AI 블로그 갈무리

인공지능(AI) 업계에서 ‘속도 조절론’이 나오기 불과 하루 전, 세계 수학계 최고 권위자들도 AI 기업의 무분별한 성과 경쟁에 제동을 거는 성명을 내놨다. 허준이 미국 프린스턴대 교수와 테런스 타오 로스앤젤레스 캘리포니아대(UCLA) 교수 등 ‘수학계의 노벨상’으로 불리는 필즈상 수상자 25명은 11일(현지 시간) 온라인 공동 선언문(www.mathandai.org)을 내고 “AI 기업과 수학계의 목표가 심각하게 어긋나 있다”고 비판했다.

온라인 공동 선언문 일부 갈무리

수학자들은 최근 글로벌 AI 기업들이 수학 난제 풀이를 자사 기술력을 과시하기 위한 ‘성능 평가 지표(벤치마크)’로 활용하는 것이 수학 연구에 해를 끼칠 수 있다고 경고했다. 이들은 “문제를 푸는 것은 개념적 이해와 통찰이라는 본래 목표를 위한 도구이자 대리 수단일 뿐”이라며 “AI 시대에 이를 잊으면 도구가 본래 목표를 거스르게 된다”고 했다. 난제 해결을 위한 수학자들의 강연과 토론은 수학적 지식의 새 토양이 되는데 AI가 이를 건너뛰고 단순 문제 풀이에만 나선다는 우려다.

수학자들은 또 “참·거짓 판정을 점점 더 빠른 속도로 대량 생산하는 것은 새로운 아이디어가 자랄 토양을 파괴할 수 있다”고 지적했다. 이들은 AI가 만든 해법이 학계 검토 없이 외부에 발표되는 것도 문제점으로 짚었다. 수학자들은 이런 상황이 모든 과학계에 퍼질 수 있다고 경고하며 “지적 노동에 대한 위협”이라고 강조했다.

이번 선언의 결정적 계기는 8일 오픈AI가 수학계 최대 난제인 ‘나비에-스토크스 방정식’을 풀었다고 발표한 일이다. 물과 공기 등 유체의 흐름을 계산하는 이 공식은 200년 전 만들어졌다. 하지만 소용돌이처럼 불규칙한 3차원 유체의 움직임에도 언제나 매끄러운 정답이 있는지를 증명하기 극도로 까다로워 2000년 ‘밀레니엄 난제’로 지정되기도 했다.

오픈AI는 최대 1만 개의 AI 에이전트가 88시간 동안 270만 건의 메시지(약 1300억 토큰)를 주고받는 집단 추론 방식으로 이 난제를 해결했다고 밝혔다. 그러나 발표 직후 트리스탄 벅매스터 뉴욕대 교수 등이 자신들의 연구 접근법과 오픈AI의 풀이가 같다며 자료 도용 의혹을 제기해 논란이 일었다. 10일에는 수학자 771명이 캘리포니아공대 학생들의 AI 수학 경진대회 반대 서한을 내면서 오픈AI가 후원을 철회하기도 했다.

오픈AI에 앞서 구글 딥마인드는 2023년 12월 차원이 커질수록 경우의 수가 기하급수적으로 폭등해 수십 년간 풀리지 않던 조합론 난제인 ‘캡 세트(Cap Set)’의 해법을 찾아낸 바 있다. 2024년 7월 국제수학올림피아드(IMO)에서는 은메달 수준의 성과를 내기도 했다.

김재형 기자 monami@donga.com