수학자들 “AI 능력 과신하지 말라... 냉정하게 평가해야”

AI 기업, 학문 검증 이전에 과대 홍보
“전문가들 말에 귀 기울여야”

전 세계 수학자들이 2일(현지시간) “인공지능(AI)의 능력을 과신하지 말라”는 내용의 라이덴 선언을 발표했다. [사진=언스플래시]

전 세계 수백 명의 수학자들이 각국 정부를 향해 “인공지능(AI)의 능력에 대한 과장된 홍보를 믿지 말라”고 경고했다.

최근 AI가 난제 해결에서 잇달아 성과를 내면서 ‘AI가 연구자를 대체할 것’이라는 전망까지 나오고 있지만, 수학계는 AI의 실제 능력과 한계를 냉정하게 평가해야 한다고 주장했다.

미국과 영국, 네덜란드, 폴란드, 스위스 등 5개국 15개 대학·연구기관 소속 150여 명의 학자들은 2일(현지시간) 이 같은 내용이 담긴 ‘라이덴 선언’을 발표했다. 국제수학연맹(IMU)은 이 선언에 지지를 표명했고, 다음 달 열릴 세계수학자대회(ICM)에서도 논의될 예정이다.

이들은 각국 정부와 정책 입안자들에게 “기술 기업들은 자사 제품의 능력을 과장할 강한 상업적 유인을 갖고 있다”며 “정책 결정 과정에서 보도자료나 대중적 홍보가 아니라 수학자를 포함한 전문가 집단의 평가를 참고해야 한다”고 밝혔다.

문제는 기업들이 학문적 검증을 받기 전에 먼저 과장된 홍보를 한다는 점이다. 기업들은 논문과 동료평가를 거치지 않은 결과를 블로그나 보도자료를 통해 먼저 대중에 선보인다. 많은 사람들이 이를 그대로 믿고, AI를 과신하게 되는 결과를 낳는다.

특히 수학자들은 AI 기업들이 수학 분야의 성과를 마케팅 수단으로 활용하는 현상을 강하게 비판했다. AI가 국제 수학 올림피아드 수준의 문제를 해결하거나 난제 연구에 기여했다는 홍보가 자주 나오지만, 이게 추론 능력을 명확히 보여주지 않는다는 것이다.

선언문은 “특정 수학 문제를 푸는 능력이 곧 일반적인 지능이나 인간 수준의 추론 능력을 보여주지 않는다”며 “이걸 일반 인공지능(AGI)의 증거처럼 해석해서는 안 된다”고 지적한다.

최근 AI는 수학계의 근간 자체를 흔들고 있다. AI가 그럴듯하지만 잘못된 수학적 논증을 만들어낼 수 있기 때문이다. 수학자들은 “수학의 본질은 정답이 아니라 증명 과정에 있는데, AI는 잘못된 증명을 내놓을 때조차 과정이 불투명하고 책임을 지지 않는다”며 AI를 비판했다.

수학 연구가 AI와 거대 자본에 종속될 수 있다는 것도 우려 사항이다. 최근 구글 등 빅테크 기업들이 AI 모델을 활용해 수학과 과학 연구에 참여하고 있는데, 이런 상황이 심화되면 연구의 주도권이 학계가 아닌 기업으로 이동할 수 있기 때문이다.

수학자들은 선언문에서 “수학은 정답 생산이 아닌 인간의 이해와 비판적 검증을 바탕으로 발전한 학문”이라며 “AI를 활용하더라도 수학의 핵심 가치와 연구 자율성은 지켜져야 한다”고 했다.