난제 풀어버린 AI, 다급한 수학자들 집단성명…“수학계에 해악”[김현지의 with AI]

필즈상 25인 초유의 공동성명
허준이 프린스턴대 교수도 참여
“수학이란 학문 추구 본질 어긋나
인류 아이디어 토양 파괴할 수도”

세계 최정상급 수학자들이 “인공지능(AI)의 수학 난제 풀이 경쟁이 수학의 근간을 훼손하고 있다”며 이례적인 집단 경고에 나섰다. 2006년 필즈상 수상자인 테렌스 타오 UCLA 교수는 11일(현지시각) 본인의 개인 블로그에 올린 글(하단 링크)을 통해 지난 한 주간 수학자들이 AI 문제를 놓고 토론했으며 사안의 시급성을 감안해 서명자들이 최대한 신속하게 문서를 공개하기로 결정했다고 밝혔다.

이 문서에는 한국계 수학자 허준이 프린스턴대 교수, 페터 숄체 독일 막스플랑크 수학연구소장 등 필즈상 수상자 25명이 초기 서명자로 이름을 올렸다.

성명서는 “AI 기업들이 수학 문제 풀이를 성능 벤치마크로 삼아 경쟁적으로 밀어붙이는 방식은 수학이라는 학문 공동체가 추구해온 목표와는 본질적으로 어긋난다”고 비판했다. 서명자들은 AI가 수학적 능력에서 놀라운 향상을 보였다는 점은 인정하면서도 AI 기업들이 이를 역량 측정의 잣대로 삼는 행태가 수학 연구와 수학계 자체에 해를 끼칠 수 있다고 지적했다.

이들은 “수학은 도형, 숫자, 자연 현상의 기본 구조를 이해하는 학문이며 수 세대에 걸쳐 정교한 아이디어와 방법, 추상화 등으로 구성된 방대한 체계를 쌓아왔고 이것이 현대 기술과 과학의 기반이 됐다”며 “문제 풀이 자체는 개념적 이해와 통찰이라는 본래 목표를 이루기 위한 수단이자 대리일 뿐 그 자체가 목적이 될 수는 없는데 AI가 수학적 이해 과정을 생략한 채 ‘참’ 또는 ‘거짓’이라는 결론만 쏟아낸다면 인류의 아이디어가 자랄 토양 자체를 파괴할 수 있다”고 경고했다.

더 나아가 AI가 내놓은 해법이 충분한 검증 없이 서둘러 공개되면서 출처 표기 및 표절 문제가 불거지고 있고 이것이 수학자들 사이의 세대 간 지식 전승 고리를 끊을 수 있다고 우려했다.

성명서는 AI가 실제 수학적 이해를 가속화할 잠재력을 지니고 있다는 점은 인정하면서도 이 변화가 학문에 도움이 될지 해가 될지는 결국 기술을 통제하는 인간의 선택에 달려 있다고 결론지었다. 그러면서 이 문제가 수학계 뿐 아니라 AI 기술을 개발하는 기업들, 나아가 지적 노동의 미래를 함께 고민해야 할 사회 전체가 시급히 풀어야 할 과제라고 강조했다.

▼성명서가 공개된 테렌스 타오 교수의 홈페이지 링크
https://terrytao.wordpress.com/2026/09/11/a-severe-misalignment-of-ai-in-mathematics/

김현지 기자 nuk@donga.com