허준이 등 필즈상 수상자 25명 "AI 난제풀이 경쟁, 수학 본질 훼손할 수도"

필즈상 메달. 허준이 미국 프린스턴대 교수 등 필즈상 수상자 25명이 AI 기업들의 수학 난제 풀이 경쟁이 수학의 본질을 훼손할 수 있다고 경고하는 공동성명을 발표했다. Wikimedia Commons 제공

허준이 미국 프린스턴대 교수 등 필즈상 수상자 25명이 인공지능(AI) 기업들의 수학 난제 풀이 경쟁이 수학 연구와 수학 공동체에 악영향을 줄 수 있다고 경고했다. 어려운 문제의 답을 빠르게 내놓는 AI의 능력이 수학의 본질인 개념적 이해와 통찰, 후속 세대 교육을 오히려 훼손할 수 있다는 것이다.

2006년 필즈상 수상자인 테렌스 타오 로스앤젤레스캘리포니아대(UCLA) 교수는 자신의 홈페이지와 '수학과 AI' 홈페이지에 이 같은 내용의 공동성명을 11일(현지시간) 공개했다. 타오 교수는 이번 선언이 지난 일주일간 수학자들 사이의 논의를 거쳐 마련됐으며 상황의 긴급성을 고려해 충분한 의견수렴 과정을 거치기 전에 공개했다고 밝혔다.

지난 8일 오픈AI는 수학계 대표 미해결 난제인 '나비에-스토크스 방정식' 문제를 풀었다고 발표했다. 지난 7월에는 오픈AI 최신 모델이 '사이클 더블 커버 추측'을 증명했다. 수학자들은 최근 몇 달 동안 대규모언어모델(LLM)의 수학 능력이 급격히 향상돼 여러 수학 분야의 중요한 미해결 문제까지 풀 수 있는 수준에 이르렀다고 평가했다. 

다만 수학 난제 풀이를 AI 성능의 기준으로 삼는 기업들의 경쟁은 수학계가 추구하는 목표와 어긋날 수 있다고 지적했다. '문제를 푸는 것' 자체를 수학의 최종 목표처럼 취급해서는 안된다는 것이다.

성명은 수학 연구의 본질이 단순히 문제의 정답을 얻는 데 있지 않다고 설명했다. 난제를 해결하는 과정에서 새로운 개념과 방법이 등장한다. 이를 수학자들이 오랜 기간 토론하고 정리해 후속 세대에 전달하는 과정 자체가 학문의 핵심이라는 것이다.

타오 교수는 "수학 공동체는 여러 측면에서 인류의 작은 축소판"이라며 "가장 소중한 자원은 학생과 아이디어"라고 말했다. 학생들에게 문제를 주는 목적은 단순히 답을 얻기 위해서가 아니라 문제를 풀면서 연구 능력을 기르도록 하기 위해서라는 설명이다. 새로운 아이디어 역시 강연과 토론, 세심한 글쓰기를 거쳐 기존 연구들과 연결되며 발전한다. 이런 과정에는 시간이 필요하고 인간 간 상호작용이 필수적이라는 것이다.

수학자들은 AI가 만든 해법이 지나치게 빠르게 발표되면서 논문 작성, 새로운 방법·아이디어의 정리, 선행연구 인용 등이 제대로 이뤄지지 않는 문제도 지적했다. 결과적으로 다른 창작 분야와 마찬가지로 공로 인정과 표절 관련 문제를 일으킬 것이라고 경고했다.

수학자들은 AI가 만든 새로운 아이디어 역시 인간 수학자가 검토하고 기존 수학 체계에 통합하는 과정이 필요하다고 강조했다. 이 과정이 없다면 현재 수학자에서 다음 세대로 이어지는 지식 전달 과정이 약해질 수 있다는 것이다.

성명에 따르면 현재 문제는 수학에만 국한되지 않는다. 다른 과학·창작 분야와 사회 전체가 직면한 문제라는 설명이다.

수학자들은 AI 활용 자체를 반대하지는 않는다. AI를 적절하게 활용하면 수학 연구와 이해를 강화하고 가속할 가능성도 있다고 인정했다.

수학자들은 결국 AI가 수학에 도움이 될지, 파괴적인 영향을 미칠지는 AI 기술을 개발·통제하는 인간의 선택에 달려 있다며 수학계와 AI 기업, 사회 전체가 관련 문제를 긴급하게 논의해야 한다고 촉구했다.

권현우 브라운대 응용수학과 박사과정생은 "성명문에 동의하지 않는 사람들도 많지만 근래 수학계에 나왔던 성명문 중 가장 광범위하게 많은 사람들이 동의하는 성명문이라고 생각한다"고 말했다.

엄상일 기초과학연구원(IBS) 이산수학그룹 CI는 "성명은 매우 시의적절하다"고 평가했다. 엄 CI는 "LLM을 이용해 수학적 구조·방법론을 더 잘 이해해 수학 연구가 발전하는 데 도움이 되면 좋겠으나 현재 일부 AI 업체들이나 사람들은 단순히 미해결 문제를 LLM을 통해 해결했다는 것만 신경쓰고 실제 깊이 이해하고 발전시키는 과정은 소홀히 한다"고 말했다.

<참고 자료>
terrytao.wordpress.com/2026/09/11/a-severe-misalignment-of-ai-in-mathematics/
mathandai.org/

[문혜원 기자 moony@donga.com]