“기계가 인간 지성을 넘어서면”…AI에 ‘멘붕’ 빠진 수학자들[김현지의 with AI]

게티이미지뱅크

최신 인공지능(AI) 모델들이 인류가 수십 년간 풀지 못한 수학 난제들을 잇달아 해결하면서 수학자 사회가 혼란에 빠진 모습이다. 미국의 과학 전문지 ‘사이언티픽 아메리칸(Scientific American)’은 10일(현지시각) ‘AI가 수학을 집어삼킨 여름(The summer AI ate math)’ 기사에서 AI의 급부상으로 수학계의 가치와 관행이 흔들리고 있다고 전했다.

사이언티픽 아메리칸에서 물리학·수학·천문학 이슈를 담당하는 조셉 하울렛 선임기자는 지난 7월 미국 필라델피아에서 열린 국제수학자대회(ICM) 현장을 취재하며 느낀 위기감을 기사 전면에 내세웠다. 그는 평소 차분하기로 유명한 테런스 타오 UCLA 교수가 강연에서 “지금 상황은 매우 혼란스럽고 뒤죽박죽”이라고 진단했고 청중 다수가 방향을 잃은 표정이었다고 전했다. 당시는 강연을 불과 며칠 앞두고 앤스로픽의 AI 모델 ‘클로드 페이블’이 야코비안 추측을 반증하는 방정식을 내놓으면서 이런 위기감이 현실로 다가온 시점이었다.

하울렛 기자는 지난 대회에서 필즈상을 수상한 제이콥 치머먼의 근황도 함께 짚었다. 그에 따르면 치머먼은 수상 직후 연구를 접고 오픈AI로 자리를 옮겨 AI 안전 업무를 맡았다. 치머먼은 또 “AI는 머지않아 연구 수학 분야에서 수학자들보다 더 뛰어난 수준에 도달할 것”이라고 언급했다. 하울렛은 이를 두고 동료 수학자 다수가 배신감을 느끼며 “후배들의 불안을 부추기는 무책임한 처신”이라고 비판했다고 전했다.

그는 “수학자들은 탄광 속의 카나리아와 같은 존재일지도 모른다”라는, 매사추세츠공과대학(MIT)의 앤드류 서덜랜드 교수가 사석에서 말한 자조 섞인 발언도 소개했다. ‘탄광 속의 카나리아’는 과거 광부들이 유독가스를 미리 감지하기 위해 카나리아를 탄광 속으로 데리고 들어갔던 데서 유래한 표현으로 수학자들이 AI로 인한 변화를 가장 먼저 겪는 직군이라는 의미를 담고 있다. 이에 앞서 스탠퍼드대 연구진은 ‘탄광 속 카나리아(Canaries in the Coal Mine, 2025)’라는 제목의 논문을 통해 AI가 노동 시장에 미치는 충격을 분석하면서 25세 미만 주니어 근로자 계층이 가장 큰 영향을 받고 있다고 밝힌 바 있다.

테런스 타오 UCLA 교수는 9일(현지시각) 영국 과학전문지 ‘뉴사이언티스트’와의 별도 인터뷰를 통해 “AI 기업들은 빠른 속도로 새로운 수학적 발견을 쏟아내고 있지만 정작 그 증명을 파헤치고 이해하는 작업에는 손을 놓고 있다. 이는 우리의 이해를 발전시키는 올바른 방식이 아니다”라며 AI 기업의 행보에 날을 세웠다.

수학계는 이번 위기가 오히려 수학자들에게 ‘왜 수학을 하는지’, 수학이 어떤 모습이어야 하는지‘를 명확히 할 수 있는 기회가 될 수 있다고 본다. 하울렛 기자는 기사 말미에서 “사고(thinking)가 더 이상 인간만의 것이 아니게 되어도 수천 년 이어온 ‘인류의 프로젝트’로서의 수학은 계속될 수 있을까”라고 물으며 지금이야말로 “왜 수학을 하는가”를 되물어야 할 전환점이라고 진단했다.

김현지 기자 nuk@donga.com