수학자들 "AI가 연구 문화 훼손할 수도"…'라이덴 선언' 발표
인공지능(AI)이 수학 연구를 빠르게 파고들면서 핵심 가치와 연구 문화가 훼손될 수 있다는 우려가 커지자 수학자들이 AI 활용 원칙을 담은 공동 선언문을 발표했다.
수학자와 컴퓨터과학자, 철학자, 역사학자 등 16명은 'AI와 수학에 관한 라이덴 선언'을 2일(현지시간) 공개했다.
선언문에는 연구 과정에서 AI 사용 여부를 투명하게 공개하고 AI가 생성한 증명에 대한 검증 절차를 강화해야 한다는 내용이 담겼다. 공공 연구비 확대와 산업 규제를 통해 학계와 상업용 AI 기업 간 불균형을 바로잡아야 한다고 주장했다. 세계 수학계를 대표하는 국제기구인 국제수학연맹(IMU)도 선언을 지지했다.
2006 필즈상 수상자인 테렌스 타오 로스앤젤레스캘리포니아대(UCLA) 교수는 라이덴 선언 지지 서명에서 "수개월에 걸친 공동체의 논의가 담긴 결과물"이라며 "돌이켜보면 몇 년 전부터 체계적으로 논의했어야 할 문제였지만 이번 작업은 매우 가치 있었고 결과물도 훌륭하다"고 평가했다.
최근 AI의 수학 능력은 급격히 발전하고 있다. 지난달 ‘오픈AI’는 AI가 80년 된 기하학 난제인 '단위 거리 문제(unit distance problem)'를 독자적으로 해결했다고 발표했다. 수학자들은 AI가 단순 계산을 넘어 실제 증명 과정에도 깊숙이 파고들기 시작했다고 보고 있다.
AI 연구자들이 수학을 주요 시험 무대로 삼아온 데는 이유가 있다. 수학 문제는 정답 여부를 컴퓨터가 자동으로 판정할 수 있어 인간 감독 없이도 AI 학습에 필요한 문제와 피드백을 사실상 무한정 만들어낼 수 있다. AI 업계는 난이도 높은 수학 정리를 증명할 수 있다면 범용 추론 능력을 갖춘 것으로 볼 수 있다고 판단해 이를 고성능 AI 개발의 핵심 지표로 삼고 있다.
선언문 작성자들은 AI가 생성한 논문과 증명이 급증하면서 학술 생태계가 흔들리고 있다고 경고했다. 학술지 편집자들의 수신함은 검토하기 어려운 AI 증명들로 채워지고 있다. 거대언어모델은 기존 연구 아이디어를 출처 표시 없이 재활용하거나 미묘하지만 발견하기 어려운 오류를 포함한 증명을 생성할 수 있다.
수학이 오랫동안 지켜온 개방성도 위협받고 있다. 현대 수학 논문의 대부분은 논문 공유 사이트 아카이브(arXiv) 등을 통해 무료로 공개돼 있다. 이와 달리 AI 기업들은 핵심 방법론을 공개하지 않는 경우가 많다.
구글 딥마인드가 2024년 '알파프루프(AlphaProof)'의 성과를 발표했을 때도 방법론이 동료심사 학술지에 게재되기까지 1년이 넘게 걸렸다. 알파프루프는 국제수학올림피아드(IMO) 문제 6개 중 4개를 해결해 은메달 수준을 달성한 AI 모델이다.
선언문 프로젝트를 이끈 짐 포르테히스 에인트호번공대 교수는 "상업적 이해관계가 커지면서 AI 증명 관련 연구가 점점 공개되지 않고 있다"고 밝혔다.
선언문은 일부 AI 모델이 수학 논문과 수학 정리·증명을 컴퓨터가 읽고 검증할 수 있는 형태로 정리한 데이터베이스를 학습 데이터로 활용하는 과정에서 AI 활용을 염두에 두지 않은 라이선스·접근 계약을 이용하거나 저작권 보호를 침해하고 있다고 비판했다. 이렇게 개발된 범용 AI 모델 일부가 전쟁, 억압, 대규모 감시, 민주주의 훼손 등 심각한 윤리적 우려가 제기되는 분야에 활용되고 있다고 경고했다.
선언문은 수학을 단순히 정답을 생산하는 활동이 아니라 이해와 명료성, 판단력, 창의성을 발전시키는 인간 중심의 연구 활동으로 규정했다. 수학자들은 새로운 아이디어와 중요한 연구 질문을 발굴할 가능성을 바탕으로 연구 주제를 선택하는 반면 AI 기업들은 자동화에 적합하거나 자사 AI 모델 성능을 보여주기 쉬운 문제를 우선시할 수 있다는 우려도 담겼다.
2018 필즈상 수상자인 페터 숄체 막스플랑크 수학연구소장은 라이덴 선언 지지 서명에서 "수학적 아이디어는 아이들처럼 오랜 시간에 걸쳐 돌보며 키워야 한다"며 "수학 연구의 목표는 인간이 수학을 이해하는 것이고 아이들이 AI에게 교육받는 것을 원하지 않듯 나 역시 수학적 아이디어를 AI 없이 사유하고 AI가 생성한 글은 가능한 한 읽지 않으려 한다"고 밝혔다.
일카 아그리콜라 국제수학연맹(IMU) 출판위원회 위원장은 “AI가 책임감 있게 사용된다면 유용하고 도움이 될 수 있다"면서도 "안타깝게도 그 긍정적 가능성이 AI를 둘러싼 각종 부작용과 문제들에 가려지고 있다"고 지적했다.
선언문은 수학자 개인, 수학 기관, 정부, 상업용 AI 기업을 대상으로 구체적인 권고안을 제시했다. 수학자에게는 논문에 '도구 및 계산 자원 공개' 항목을 포함하고 AI 등 자동화 기술을 사용했더라도 결과의 정확성과 인용의 적절성에 대한 책임은 수학자에게 있다고 명시했다.
기관과 정책 입안자에게는 AI 산업 규제 강화와 공공 계산 인프라 투자, 동료심사 기반 출판 원칙 유지를 요구했다. 상업용 AI 기업에 대해서는 수학계가 학계 구성원에게 기대하는 수준의 기준을 준수하고 직원과 외부 협력자들이 회사 운영 방침과 개발 방향에 대해 자유롭게 의견을 낼 수 있도록 보장해야 한다고 밝혔다.
선언문은 현재 전세계 개인과 단체의 서명을 받고 있다. 올여름 미국 필라델피아에서 열리는 세계수학자대회(ICM)에서도 주요 의제로 다뤄질 예정이다.
<참고자료>
leidendeclaration.ai
[조가현 기자 gahyun@donga.com]
Copyright © 동아사이언스. 무단전재 및 재배포 금지.