고난도 기하학도 척척… 수학 올림피아드 金 수준 AI 나왔다

딥마인드, ‘알파지오메트리’ 개발

구글의 인공지능 자회사 딥마인드가 기하학 문제를 인간 이상의 능력으로 풀어낼 수 있는 수학 인공지능(AI) ‘알파지오메트리(AlphaGeometry)’를 선보였다. 연구진은 새로운 AI가 인간의 예시 없이 스스로 학습하도록 만들어진 만큼 앞으로 다양한 수학 AI 개발에 활용될 수 있을 것으로 보고 있다.

구글 딥마인드와 미국 뉴욕대 컴퓨터과학과 공동 연구팀이 개발한 알파지오메트리의 개발 과정과 원리는 18일(현지 시각) 국제학술지 네이처에 발표됐다. 지금까지의 AI는 기하학 문제를 잘 풀지 못했다. 수학적 명제를 증명하기 위해서는 수십 페이지에 달하는 논문을 써야 할 정도로 복잡한 과정을 요하는데 이 과정에서 상당한 추론 능력이 필요하기 때문이다. 또 AI는 특정 문제를 해결하기 위해 비슷한 문제에 대한 풀이 수백만 건을 학습해야 하는데 기하학 문제의 경우 인간의 풀이 과정을 보여주는 학습 데이터가 부족하다는 점도 문제가 됐다. 기하학에는 여러 기호가 사용되기 때문에 이를 AI가 학습할 수 있는 데이터로 만드는 작업도 어렵다.

그래픽=김성규

딥마인드 연구진은 이런 문제를 해결하기 위해 챗GPT와 같은 ‘언어 모델’과 일종의 논리 계산기인 ‘기호(symbol) 엔진’을 합친 새로운 AI를 개발했다. 언어 모델은 데이터의 일반적인 패턴과 관계를 식별하는 데 탁월해 잠재적으로 유용한 풀이를 빠르게 예측할 수 있지만 정밀한 추론과 결정 능력은 부족하다. 반면 기호 엔진은 명확한 규칙을 가지고 결론에 도달할 수 있지만 복잡한 문제를 처리할 때 느리고 융통성이 없다.

연구진은 인간의 풀이 과정 예시가 아닌 알고리즘으로 생성한 1억여 개의 기하학적 증명으로 알파지오메트리를 훈련했다. 이렇게 탄생한 알파지오메트리는 문제가 주어지면 먼저 기호 엔진으로 문제를 해석한 후, 해답을 찾지 못하면 언어 모델이 잠재적으로 유용한 풀이 방식을 제안해 새로운 추론 경로를 연다. 기호 엔진과 언어 모델이 문제를 주고받으면서 답을 찾을 때까지 풀이 과정을 수없이 반복하는 것이다. 선을 더하고, 각도를 이등분하고, 원을 그려보라고 하는 등 언어 모델이 새로운 방식을 제안하는 과정은 인간 수학자가 문제를 해결할 때 시도하는 방식과 비슷하다.

연구진이 2000년부터 2020년까지의 국제 수학 올림피아드 문제 30개를 제시하자 알파지오메트리는 이 중 25개를 풀어냈다. 평균적으로 25.9개를 푼 역대 국제 올림피아드 금메달 수상자 수준이다. 앞서 개발된 AI 모델은 같은 문제 중 10개를 푸는 데 그쳤다. 또 3개의 원 안에 있는 선분의 위치를 증명하는 문제를 풀면서는 기존의 풀이법이 아닌 새로운 풀이법을 선보이는 성과도 거뒀다.

딥마인드는 알파지오메트리의 코드와 모델을 무료로 공개했다. 딥마인드는 홈페이지에 “(데이터 개방을 통해) 수학, 과학, AI 전반에 걸쳐 새로운 가능성을 열어가는 데 도움이 되기를 희망한다”고 했다.