수학 올림피아드 AI '금메달리스트' 나올까…딥마인드 '알파 기하학' 공개

수학적 증명이 가능한 AI는 AI 개발의 대표적 난제로 꼽힌다. 게티이미지뱅크 제공

인공지능(AI)이 국제 수학 올림피아드 문제를 풀어 '금메달급' 성적을 냈다. 

구글 딥마인드·미국 뉴욕대 공동 연구진은 기하학 문제를 푸는 AI '알파 기하학'이 국제 수학 올림피아드에 출제된 총 30문제 중 25문제를 해결한 연구결과를 국제학술지 '네이처'에 17일(현지시간) 공개했다.

수학 문제를 푸는 AI는 인공지능 개발의 '최고점'으로 불린다. 단순히 데이터에 기반한 통계적 추론을 넘어 논리적 사고와 기반으로 정답을 찾아야 하기 때문이다. 국제수학올림피아드 수준에서는 단순한 문제 풀이를 넘어 자신의 명제가 수학적으로 참임을 증명해야 한다. 

'논리를 증명하는 AI' 개발이 어려운 건 인간 수학자가 증명해놓은 정리(Theorem)를 기계가 식별할 수 있는 언어로 변환하는 게 쉽지 않기 때문이다. 특히 도형을 다루는 수학인 기하학은 AI를 학습시킬만큼 데이터가 충분하지 않아 더욱 난제로 꼽혔다.

연구팀은 AI가 인간이 구현한 증명 사례를 학습하지 않고도 정리를 증명할 수 있도록 합성 증명 데이터를 만들었다. 유클리드 평면 기하학에 초점을 맞추고 등주부등식(기하학적 부등식), 조합 대수기하학 등의 주제는 제외했다. 

무작위로 섞인 각종 수학 명제 세트에서  200개 이상의 증명 단계를 가진 정리 1억 개를 합성했다. 이는 올림피아드대회에서 요구하는 평균 증명 길이보다 4배 긴 수준이다. 합성한 정리 내에서 수학적 증명 과정을 추출해 합성 증명 약 1000만 개를 생성했다. 

연구팀은 이렇게 만들어진 합성 증명을 연구팀이 개발한 AI '알파 기하학'에 학습했다. 알파 기하학은 챗GPT처럼 직관 능력이 뛰어난 신경망 언어 모델과 계산기의 추론 능력을 합친 모델이다. 알파 기하학이 문제를 접하면 먼저 추론 능력이 발동한다. 문제 풀이가 막히면 신경망 언어 모델이 개입해 증명의 논리를 강화할 방법을 내놓는 식이다. 

문제 풀이 과정은 AI가 구체적인 정답을 찾을 때까지, 혹은 4시간 30분에 달하는 문제 풀이 시간이 끝날 때까지 이어졌다. 

연구팀이 알파 기하학에게 2000년부터 2020년까지 출제된 국제수학올림피아드 문제 30개 세트를 풀게 한 결과 알파 기하학은 그 중 25개 문제를 해결했다. 연구팀에 따르면 이는 올림피아드 금메달 수준의 문제풀이 실력이다. 역대 올림피아드 금메달리스트들은 평균 25.9문제를 풀었다. 

한편 구글 딥마인드는 수학을 푸는 AI를 개발하기 위해 다양한 프로젝트를 진행 중이다. 2023년 11월에는 AI 수학 올림피아드 대회를 개최할 예정이라며 대회에서 우승한 첫 AI에 상금 5백만 달러(약 67억 400만원)을 수여하겠다고 밝힌 바 있다. 

[박건희 기자 wissen@donga.com]