"수학은 높은 산 오르는 여정…지식생산국 위한 고등과학원 설립과 맞닿아"

고등과학원(KIAS) 개원 30년…금종해·젤마노프 교수 인터뷰

왼쪽부터 금종해 고등과학원 석학교수, 예핌 젤마노프 중국 남방과학기술대 교수. 고등과학원 제공

인공지능(AI)이 복잡한 수학 난제의 증명을 빠르게 내놓는 시대, 인간이 기초수학을 연구하고 사회가 이를 지원해야 할 이유는 무엇일까. 금종해 고등과학원 석학교수와 1994년 필즈상 수상자인 예핌 젤마노프 중국 남방과학기술대 교수는 답을 내놓는 것보다 원리를 이해하고 새로운 지식을 쌓는 과정이 여전히 중요하다고 강조했다.

고등과학원(KIAS) 개원 30주년을 맞아 고등과학원에서 만난 두 교수는 AI 시대에도 기초수학의 가치는 줄어들지 않는다고 봤다. 30년 전 한국이 기술 추격에서 벗어나 지식을 생산하는 국가로 나아가기 위해 고등과학원을 설립했던 문제의식 역시 지금까지 이어지고 있다는 설명이다.

● "수학은 높은 산 오르는 일…빠르게 정상 도달하는 것과 달라"

오픈AI는 최근 AI가 수학계의 최대 난제 중 하나인 '나비에-스토크스 방정식' 문제를 풀었다고 발표했다. 젤마노프 교수는 AI가 복잡한 증명을 수행하고 강한 계산 능력을 보이는 점은 인상적이라고 평가하면서도 이를 두고 인간 수학의 역할 자체가 크게 줄어들 것처럼 받아들이는 '과잉반응'은 경계해야 한다고 강조했다. AI가 현재 보여주는 성과 역시 인간이 오랜 시간 쌓아온 연구와 아이디어에 크게 의존하고 있다는 이유에서다.
 

젤마노프 교수는 하나의 문제를 '풀었다'는 결과와 수학이 발전하는 과정은 다르다고 강조했다. 수학자들은 난제를 해결하는 과정에서 새로운 개념과 이론, 증명 방법을 만든다. 하나의 문제를 위해 개발된 도구가 이후 전혀 다른 문제를 푸는 기반이 되기도 한다.

그는 이 과정을 '높은 산에 오르는 일'에 비유했다. 수학자들이 정상에 도달하기 위해 단지 산꼭대기만 밟는 것이 아니라 그 과정에서 길을 만들고, 그 길은 훗날 다른 사람들이 다른 목적지로 향하는 데 활용된다는 설명이다.

AI는 사람이 이미 만든 연구들을 빠르게 연결해 정상에 먼저 도달할 수 있지만 그 과정에서 새로운 이론과 수학적 기반까지 함께 만들어지는가에 대해서 젤마노프 교수는 의문을 제기했다.

AI 시대에 두 교수가 우려하는 것 중 하나는 다음 세대 수학자를 어떻게 길러낼 것인가 하는 문제다. 수학자는 처음부터 최고 난도의 문제를 푸는 것이 아니라 비교적 쉬운 문제부터 직접 해결하며 점차 어려운 문제로 나아가는 과정에서 사고방식과 직관을 익힌다.

젤마노프 교수는 "오랜 경력을 쌓은 수학자라면 대학원생에게 주어지는 중간 수준의 문제 상당수를 쉽게 풀 수 있지만 굳이 손대지 않는다"고 설명했다. 젊은 연구자가 직접 씨름하며 성장해야 할 문제이기 때문이다.

이어 "젊은 수학자가 대학원에 들어오면 지도교수가 중간 수준의 문제를 제안하고 학생이 이를 풀어 논문을 내고 일자리를 얻어왔다"며 AI가 이런 문제를 빠르게 해결해버릴 경우 젊은 연구자가 훈련받을 기회 자체가 줄어들 수 있다고 우려했다.
 

금 교수는 미술을 배우는 학생이 스케치부터 시작해 실력을 쌓는 것처럼 수학 역시 단계적으로 배우는 과정이 필요하다고 설명했다. AI가 연구 과정에 깊숙이 들어올수록 연구자를 평가하는 기준 역시 달라져야 한다고 봤다.

금 교수는 "이해가 결과보다 중요하다"며 "이해가 있어야 더 큰 그림을 볼 수 있다"고 말했다. 문제의 조건이 조금만 달라져도 새로운 문제가 되는 만큼 결과만 알고 원리를 이해하지 못하면 다른 문제로 확장하기 어렵다는 설명이다. 

젤마노프 교수 역시 "나에게 아름다움은 이해"라고 말했다. 그는 "무언가를 완전히 이해했을 때 아름다움을 느낀다"며 "이해하지 못하는 것에서는 아름다움을 느낄 수 없다"고 설명했다.

젊은 세대에게는 수학 공부를 멈추지 말라고 당부했다. 젤마노프 교수는 "그냥 계속 공부하라"며 AI를 강력한 새로운 도구로 활용하되 기존처럼 스스로 이해를 쌓아가는 과정을 놓치지 말라고 강조했다. "AI도 결국 수학자들이 만든 것"이라고 덧붙였다.

● 기술 추격에서 지식 생산국으로…30년 전 고등과학원이 만들어진 이유

결과보다 기초와 이해를 쌓는 과정을 중시하는 관점은 30년 전 고등과학원이 만들어질 당시의 문제의식과도 맞닿아 있다.

젤마노프 교수는 한국이 과거 외국에서 기술과 라이선스를 들여와 제품을 생산하던 나라였지만 1970~1980년대부터 첨단기술을 직접 생산하는 국가로 방향을 바꾸기 시작했다고 돌아봤다. 그는 "모든 첨단기술은 깊이 있는 과학에 기반하며 응용과학은 기초과학에 기반한다"며 "그렇지 않으면 다른 선택지는 외국의 라이선스를 사용하는 것뿐"이라고 말했다.

이어 "한국은 이제 지식을 생산하고 라이선스를 파는 나라"라고 평가했다.

금 교수는 고등과학원 설립 당시 국내 주요 과학자들 사이에서도 기술을 따라가는 단계에서 벗어나 기초·근본 연구 수준을 높여야 한다는 공감대가 있었다고 설명했다. 미국 프린스턴 고등연구소(IAS)와 같은 기관이 한국에도 필요하다는 인식이 수학·물리학·화학 등 여러 분야 과학자들 사이에서 형성됐고 정부와 국회를 설득하면서 고등과학원 설립으로 이어졌다.

고등과학원의 초기 목표는 국내 뛰어난 연구자들에게 최고 수준의 연구환경을 제공하는 동시에 해외에서 활동하던 한국계 과학자들과 국내 연구계를 잇는 '다리'를 만드는 것이었다. 젤마노프 교수는 세계 주요 대학의 수학·물리·생물학 분야에 한국계 과학자가 많았고 이들이 한국을 찾아 국내 연구자들과 교류하도록 하는 것이 중요한 목표였다고 설명했다. 적어도 수학 분야에서는 이런 구상이 "아름답게 작동했다"고 평가했다.

설립 초기에는 정부가 보기에도 답답할 만큼 연구자 채용 속도가 느렸다. 젤마노프 교수는 당시 고등과학원 건물의 복도가 비어 있었고 정부 관계자들이 "돈도 주고 건물도 줬는데 왜 사람을 뽑지 않느냐"고 물었다고 회상했다.

고등과학원은 자리를 빨리 채우기보다 최고의 연구자를 찾을 때까지 기다리는 방식을 택했다. 젤마노프 교수는 "한 번 사람을 채용하면 자리는 한정돼 있기 때문에 오직 최고의 사람만 뽑으려 했다"며 "시간이 필요했다"고 말했다.

당시의 빈 복도는 이제 반대 상황이 됐다. 금 교수는 현재 고등과학원이 오히려 공간 부족 문제를 겪고 있다고 설명했다. 세계 최상위 수준의 박사후연구원들이 고등과학원에 오고 싶어 하는 것 자체가 기관의 수준을 보여주는 하나의 기준이 됐다고도 말했다. 젤마노프 교수 역시 "복도는 더 이상 비어 있지 않다"며 고등과학원이 여러 나라에서 성공 사례로 평가받고 있다고 말했다.
 

고등과학원 설립 초기에는 노벨상·필즈상 수상자를 영입할 정도의 높은 연구 수준을 갖추겠다는 목표가 강하게 제시됐다. 두 교수는 이제 개별적인 수상 실적보다 한국 기초과학 전체의 수준이 더 중요하다고 강조했다.

젤마노프 교수는 필즈상이나 노벨상을 '외부로 드러나는 표지'에 가깝다고 표현했다. 국제수학자대회에 초청되는 한국 연구자의 수나 고등과학원을 찾는 세계적인 연구자들의 수준처럼 과학계 전반의 역량을 함께 봐야 한다는 것이다. 그는 기초과학의 전반적인 수준은 산업뿐 아니라 문화와 사회 전체에도 중요하다고 강조했다.
 

● "오늘날 쓸모가 있는지만 따지면 뿌리를 놓친다"

기초연구의 가치는 연구를 시작하는 시점에 그 쓰임을 예측하기 어렵다는 데서 더 분명하게 드러난다.

젤마노프 교수는 19세기 프랑스 수학자 에바리스트 갈루아를 사례로 들었다. 스무 살에 세상을 떠난 갈루아가 만든 이론은 이후 오랜 기간 수학 밖에서는 별다른 용도가 없는 것으로 여겨졌지만 오늘날 통신·금융 거래·암호 기술 등의 기반으로 활용되고 있다.

젤마노프 교수는 "무엇이 무엇에 쓰이게 될지 어떻게 알 수 있겠느냐"며 "그것을 알 수 없다는 것이 핵심"이라고 말했다. 오늘 당장 쓰이는 것만 중심으로 연구하거나 가르치면 그 기술을 가능하게 만든 근본적인 원리를 놓칠 수 있다는 설명이다. 대학에 들어온 학생에게 현재 사용되는 것만 가르친다면 4년 뒤 졸업할 때는 이미 다른 기술이 등장할 수 있다고도 지적했다.

순수수학과 응용수학 역시 명확하게 구분하기 어렵다는 게 그의 설명이다. 현실의 필요에서 출발한 수학이 있는가 하면 수학 내부의 질문에서 시작했다가 훗날 예상하지 못한 기술의 토대가 되는 경우도 있다.

젤마노프 교수는 "역사상 수학이 우리의 일상생활에서 지금처럼 중요한 역할을 한 적은 없다"며 정보혁명과 함께 그 역할은 더욱 커질 것으로 내다봤다.

AI가 수학 문제의 답을 빠르게 찾아주는 시대에도 30년 전 고등과학원이 출범할 때 세운 방향은 크게 달라지지 않았다. 오늘의 쓸모만 좇지 않고 아직 쓰임을 알 수 없어도 미래의 과학과 기술을 가능하게 할 지식의 뿌리를 계속 쌓는다는 것이다.

젤마노프 교수는 "오늘 유용한가만 보면 안 된다"며 "현재 사용되는 것에만 집중하면 그 뿌리를 볼 수 없다"고 말했다.

[문혜원 기자 moony@donga.com]