[단독] “AI에 자리 뺏긴다고? 누가 풀든 중요한 건 진실”

수학자 김정한 고등과학원 부원장
한국인 첫 ‘테스트 오브 타임상’
[최원우의 호모 사이언스]

지난달 26일 오전 서울 동대문구 고등과학원 부원장실에서 김정한 부원장이 본지와 인터뷰하고 있다. /임지훈 기자

평생을 수학 난제와 씨름해 온 김정한(64) 고등과학원 부원장이 9일(현지 시각) 미국 뉴욕에서 열린 ‘컴퓨터과학 기초이론 심포지엄(FOCS)’에서 한국인 최초로 ‘테스트 오브 타임(Test of Time)상’을 받았다.

FOCS는 컴퓨터 과학의 수학적 토대가 되는 ‘이론 전산학’의 세계 최고 권위 학술대회 중 하나다. 오늘날 정보사회의 기반을 닦은 세계적 석학들이 역대 수상자다. 양자컴퓨터의 암호 해독 알고리즘을 개발한 피터 쇼어, 현대 암호학의 기초를 세운 샤피 골드워서 등이 대표적이다.

말 그대로 ‘시간의 시험’을 견뎌낸 논문만 이 상을 받을 수 있다. 발표 당시의 성과를 넘어 10년, 20년, 30년 3개 부문에서 세월이 흐른 뒤에도 영향력이 지속됐는지를 평가한다. 김 부원장은 유리엘 파이게, 에란 오펙과 함께 2006년 발표한 ‘고밀도 무작위 3CNF 논리식의 충족 불가능성을 입증하는 증거’ 논문으로 수상했다.

특정 유형 문제에 답이 없다는 복잡한 증명을 이전보다 훨씬 간결하게 풀어낸 연구다. 이때 활용된 수학적 접근법이 이후 다른 수학 난제를 풀고, 오류를 바로잡는 정보처리 연구로 이어졌다.

지난달 26일 서울 동대문구 고등과학원 연구실에서 김 부원장을 만나 논문의 의미를 물었다. 그는 “산에 ‘산삼이 있다’고 하려면 하나만 발견하면 되지만, ‘산삼이 없다’고 하려면 산 전체를 뒤져야 한다”고 했다. 답을 찾아내는 것보다, 답이 아예 없다는 사실을 증명하기가 훨씬 어렵다는 뜻이다.

2026년 10월 26일 오전 서울 동대문구 한국과학기술원 고등과학원 부원장실에서 김정한 고등과학원 교수가 본지와 인터뷰하고 있다. /임지훈 기자

그는 1995년 60년 넘게 풀리지 않던 ‘램지수 난제’를 해결하면서 세계 수학계에 이름을 알렸다. 사람이 아무리 많이 모여도 반드시 나타나는 인간관계의 수학적 규칙을 밝혀내는 문제다. 이 공로로 1997년 이산수학 분야 최고 권위 논문상인 풀커슨상을 아시아인 최초로 받았다.

마지막 실마리는 연구실이 아닌 침대에서 찾았다고 한다. 그는 “자나 깨나 문제가 머릿속을 떠나질 않았는데 새벽 5시쯤 눈을 뜨자마자 갑자기 풀 방법이 떠올랐다”며 “종이가 보이질 않아 키친타월에 적어뒀는데 그게 난제를 푼 피니시 블로우(결정타)였다”고 했다. 거짓말처럼 찾아오는 ‘유레카’의 순간을 맛본 셈이다.

그는 이후 천재 과학자만 모인다는 AT&T 벨연구소와 마이크로소프트연구소를 거쳤고, 2006년부터 연세대 수학과 교수가 됐다가 2013년 고등과학원에 합류했다. 난제 풀이의 고단함을 누구보다 잘 아는 그에게 AI(인공지능)는 어떻게 보일까. AI 기업들이 앞다퉈 수학 난제 해법을 제시하고, 연구 원고 수백 편을 쏟아내고 있다. 인간 수학자의 자리를 빼앗는 것 아니냐는 우려도 나온다.

김 부원장은 이에 대해 “AI에 특별히 반감은 없다”며 “AI가 풀든, 사람이 풀든 제가 관심 있는 것은 진실 그 자체”라고 했다. 또 “몇 년씩 풀던 문제를 AI가 먼저 풀면 황당하고 자존심이 상할 수 있지만, 꼭 사람이 해야 하는 건 아니지 않나”라고 했다. 누가 어떤 수단으로 풀었느냐보다 새로운 진실을 밝혀냈다는 사실 자체가 중요하다는 것이다.

그가 평생 탐구한 이론전산학은 컴퓨터가 무엇을 할 수 있고 없는지, 그 답이 왜 옳은지를 근본부터 묻는 학문이다. 그는 “AI 시대일수록 겉으로 드러난 기술만 좇아가기보다는 본질을 파고들어야 한다”며 “눈앞의 기술 개발뿐 아니라 이론전산학 같은 기초연구에 더 많은 인재와 투자가 필요하다”고 했다.

과학·기술이 바꾸는 미래를 만들어가는 사람들 이야기

[최원우의 호모 사이언스](https://www.chosun.com/tag/homoscience/)