[표지로 읽는 과학]구글 딥마인드는 왜 수학을 연구하는 인공지능을 개발했을까

네이처 제공

인공지능(AI) 기계학습이 수학 연구에서도 성과를 냈다. 국제학술지 네이처는 컴퓨터 내부와 다양한 수학식들이 중첩하는 이미지를 2일 표지에 실었다. 

구글 딥마인드와 영국 옥스포드대, 호주 시드니대 공동연구팀은 순수수학 연구에 활용할 수 있는 기계학습 프레임워크를 개발한 성과를 네이처 2일자에 발표했다. 프레임워크는 소프트웨어를 효율적으로 개발하기 위해 구체적인 기능을 설계하고 구현하도록 만든 환경을 말한다. 

순수수학자들은 수학적 대상 사이에서 패턴을 찾고, 이것을 통해 추측한 문제를 공식으로 나타내는 방법으로 수학이론을 연구한다. 이 때 중요한 과정은 수많은 데이터를 계산하고 분석하는 일이다. 과거 수학자들이 직접 수작업으로 했다면 1960년대부터는 컴퓨터를 활용해왔다. 지금까지 수학자들이 수학이론 연구에 컴퓨터를 활용하는 일은 매우 일반적이었지만 기계학습을 이용한 사례는 거의 없었다.

딥마인드 연구팀은 기계학습을 활용하면 데이터 간 패턴을 사람보다 더 신속하고 효율적으로 인식해 해석할 수 있음을 주목했다. 특히 기존 추측에 대한 반례를 찾거나 계산 속도와 정확도를 높이고, 수학적 대상을 객관적으로 분석하기 위해 기계학습은 훌륭한 도구가 될 수 있다는 것이다. 예를 들어 바둑을 둘 때 사람은 직관적으로 생각해야 하지만 기계학습은 현 상황을 근거로 앞으로 발생할 수 있는 여러 경우의 수를 토대로 분석한다는 것으로 설명했다. 

연구팀은 마크 락켄비 옥스포드대 수학과 교수, 조르디 윌리엄슨 시드니대 수학과 교수 등 수학자들과 협력해 수학이론 연구를 위한 인공지능(AI) 프레임워크를 만들었다. 이 프레임워크는 수학적 대상 간 잠재적인 패턴과 연관성을 검색하고 분석한다. 

연구팀은 이 프레임워크를 이용해 수학의 여러 분야 중 선형대칭이론과 위상수학에 대한 문제를 풀어봤다. 그 결과 선형대칭이론 분야에서는 카즈단 루츠티그 다항식을 푸는 새로운 방법을 찾아냈고, 위상수학 분야에서는 쌍곡선 매듭의 대수적 구조와 기하학적 구조 간 연결고리를 새롭게 찾아냈다. 즉, 기계학습 프레임워크가 수학이론 연구에 주요하게 활용할 수 있음을 밝혀낸 것이다. 

연구팀은 이번 연구결과를 통해 앞으로 수학자들이 기계학습 등 AI를 활발하게 활용해 지금까지 풀어내지 못했던 수학적 난제들을 해결하고, 새로운 이론을 구축할 수 있을 것으로 기대했다. 

[이정아 기자 zzunga@donga.com]