구글, 수학올림피아드 금메달 수준의 ‘AI’ 개발

구글 딥마인드 ‘네이처’ 발표
국제올림피아드 수학 문제 해결
“기하학 최적화, 타 분야 적용도”

달리를 이용해 만든 이미지

구글 딥마인드와 뉴욕대 공동 연구진이 국제 올림피아드 수준의 수학 문제를 해결하는 인공지능(AI)을 개발했다. 이번 연구는 AI 연구의 핵심 목표인 ‘인간의 두뇌’를 모방한다는 목표에 한층 다가간 결과로 AI도 복잡한 논리적 문제를 해결할 수 있음을 보여줬다는 평가가 나온다.

구글 딥마인드와 뉴욕대 공동 연구진은 수학의 ‘기하학’ 문제를 해결할 수 있는 AI인 ‘알파 기하학(AlphaGeometry)’시스템을 개발했다고 밝혔다. 연구 결과는 국제학술지 ‘네이처’ 17일자(현지 시각)에 게재됐다.

올림피아드 수준에서 수학적 정리를 증명하는 것은 높은 수준의 논리적 추론과 문제 해결 능력이 필요하다. 그러나 현재의 기계학습 기반의 AI 시스템은 수학적 정리를 증명하기 어려워한다. 기계학습은 참조 데이터를 제공해 특정 작업을 수행하는 방법을 학습하는 원리다. 하지만 기하학에 대한 증명은 참조할 수 있는 문항이 부족하고 인간의 ‘시연’ 또한 거의 없는 만큼 정리나 증명을 따라 하기 쉽지 않다. 따라서 고도로 발달한 AI라 할지라도 수학 문제를 해결하는 데 있어서 어려움을 겪는다고 알려져 있다.

구글 딥마인드와 뉴욕대 연구진은 인간의 시연에 의존하지 않고도 정리를 증명하는 대안적인 방법을 제시했다. 이들이 만든 시스템 알파 기하학은 수백만 개의 정리와 증명을 합성, 스스로 훈련하는 신경 언어 모델을 사용한다. 네이처에 따르면 이 접근 방식은 상징적인 영역과 결합해 인간의 직접적인 개입 없이도 복잡한 문제를 학습하고 해결할 수 있다.

연구진은 2000년부터 2020년까지 국제 수학 올림피아드 문제 30개 세트를 이 시스템으로 테스트했다. 알파 기하학은 이 중 25개 문제를 해결하면서 국제 수학 올림피아드 ‘금메달리스트’ 수준에 근접했다. 또한 알파 기하학은 인간이 읽을 수 있는 증명을 생성해 내면서 2004년 국제 수학 올림피아드 정리의 새로운 버전을 발견하기도 했다. 연구진은 “현재 알파 기하학은 특정 형태의 기하학 문제를 푸는데 제한돼 있지만 다른 수학 분야에도 적용될 수 있다”라고 제안했다.

수학 문제를 스스로 해결하는 AI는 논란이 된 바 있다. 지난해 말 샘 올트먼 오픈AI 최고경영자(CEO)가 오픈AI에서 축출되는 과정에서 오픈AI가 범용 인공지능(AGI) 구현을 위한 프로그램을 개발했다는 주장이 제기됐기 때문이다. 당시 로이터 통신 등 외신은 익명의 내부 소식통을 인용해 “오픈AI에서 개발 중인 ‘큐스타’가 수학 문제를 푸는 성과를 거뒀다”라며 “이어 큐스타에 대한 충분한 검토 없이 이를 상용화할 경우 위험이 발생할 수 있다는 지적이 나왔다”라고 전한 바 있다.

당시 오픈AI 일부 직원들은 수학 문제를 해결한 큐스타가 ‘범용 인공지능(AGI)’ 구현을 위한 돌파구가 될 수 있다고 믿었던 것으로 전해졌다. AGI란 인간 개입 없이도 스스로 판단할 수 있는 AI를 의미한다.

일반적으로 ‘수학’은 AI 개발의 최전선으로 알려졌다. 현재 상용화된 생성형 AI는 다음에 올 단어를 통계적으로 예측해 글쓰기, 언어 번역에 능하지만 정답이 하나뿐인 수학 문제를 해결하는 것은 AI가 인간 지능과 유사한 추론 능력을 갖추게 됨을 뜻하기 때문이다.