[인터뷰]상상의 학문, 그리고 도구나 논리가 아닌, 실체가 있는 수학의 세계

황준묵 교수 IBS 복소기하학 연구단 단장

2006년 스페인에서 열린 세계수학자대회(ICM)에서는 한국 수학자 한 명이 초청 강연 연단에 올랐습니다. 한국인이 수학계의 노벨상 필즈상을 시상하는 행사로도 잘 알려진 세계수학자대회 행사에 초청된 것은 처음이라 큰 화제가 됐습니다. 주인공은 황준묵 기초과학연구원(IBS) 복소기하학 연구단 단장(사진)입니다. 황 단장은 지난 2014년 서울에서 열린 세계수학자대회에서 한국인 최초로 기조 강연을 하기도 했습니다. 

황 단장은 복소기하학과 대수기하학 연구에 매진해온 국내 대표 수학자입니다. 복소기하학은 실수보다 더 큰 집합인 복소수로 표현되는 공간을 연구하는 분야입니다. 대수기하학은 대수적 방정식들로 정의될 수 있는 도형을 연구하는 분야입니다. 

황 단장은 1999년 기하학 분야에서 한동안 풀리지 않았던 공간 사이의 변환에 관한 난제인 '라자스펠트 예상'을 증명한 데 이어 40여 년간 미해결 문제로 남아 있던 변형불변성(대칭 공간이 변형되지 않는다는 것)을 1997∼2005년 4편의 논문으로 입증했습니다. 국내 수학자로는 처음으로 국제수학자총회(ICM)의 초청을 받아 연단에 선 것도 이런 업적을 인정받았기 때문입니다. 최근에는 ‘히르쇼비츠 예상의 증명’을 발표하기도 했습니다. 이는 ‘방정식의 멱급수 해가 언제 수렴하는가’에 대한 예상으로 1981년 히르쇼비츠가 제기한 이후 약 40년간 진전이 없었던 문제였습니다. 황 단장은 이런 업적으로 2001년 한국과학상, 2006년 대한민국최고과학기술인상, 2009년 호암상 등을 수상했고 2010년에는 국가과학자로 선정됐습니다.

황 단장은 서울대 물리학과를 졸업하고 미국 하버드대 수학과에서 박사 학위를 받았습니다. 미국 수리과학연구소에서 연구했고 노트르담대와 서울대 교수를 거쳐 1999년부터 고등과학원 교수를 역임했습니다. 지난해 기초과학연구원(IBS)의 31번째 연구단 ‘복소기하학 연구단’을 설립하며 자리를 옮겼습니다. 황 단장은 '가야금 명인'인 황병기 이화여대 명예교수와 소설가 한말숙 선생의 아들입니다. 황 단장은 또 수학 관련 국제학술지 중 가장 역사가 오래 된 ‘크렐레 저널’을 비롯한 저명 학술지의 편집인을 맡아 국제수학계의 리더 역할을 해오고 있습니다. 

황 단장은 IBS 복소기하학 연구단을 이끌며 복소기하학 분야 신진 및 중견 연구자들과 더욱 연구를 집중할 계획입니다. 기하학 수리물리 연구단 등 IBS의 기존 수학 분야 연구단과의 교류를 통한 시너지 효과도 낼 수 있을 것으로 기대를 모으고 있습니다.

수학자인 박형주 아주대 총장은 "황 단장은 논문을 쓰기 좋은 연구 주제가 아닌 쉽게 해결할 수 없으나 파급 효과가 큰 기하학 분야의 난제를 골라서 연구하는 학자"라며 "해외에서도 인정하는, 한국이 배출한 세계적인 기하학자"라고 말했습니다. 박 총장은 "황 단장이 IBS에서 연구뿐 아니라 많은 젊은 수학자들을 지원하는 새로운 변화를 시도하고 있다"며 "제2, 제3의 황준묵이 꼭 나와 한국 수학계에 새로운 바람을 일으키길 기대한다"고 말했습니다.

-대학 다닐 때 수학이 아닌 물리학을 전공했다

중학교 3학년 때 알베르트 아인슈타인이 우주가 휘어져 있다는 것을 이용해 중력을 설명했다는 것을 알고 큰 흥미를 느꼈습니다. 이때부터 고등학교를 졸업할 때까지 아인슈타인이 만든 상대성이론처럼 물리이론을 일반인도 알 수 있게 설명한 책들을 보며 이론물리학에 매력을 느꼈고, 결국 대학교는 물리학과로 진학했습니다. 그런데 성인이 된 뒤 생각해보니 물리이론보다는 기하학이론에 끌렸던 것 같습니다. 그 당시에는 물리이론이 기하학을 바탕으로 하는지 몰랐습니다. 대학에서 공부하다 보니 제가 진짜로 관심 있는 분야는 물리학이 아니라 수학이라는 것을 알게 된 겁니다. 

-수학으로 전공을 바꾸는 게 힘들지 않았나

대학 1,2학년 때는 물리학 중에서도 역학과 전자기학에 매료돼 열심히 공부했습니다. 시간이 지나 3학년 1학기 때 양자역학을 배우면서 물리학에 흥미를 잃기 시작했습니다. 대신 복소해석학이나 미분 기하학 같은 수학 과목을 수강하면서 점차 수학의 세계로 다가가기 시작했습니다. 결국 그해 여름방학 때 전공을 수학으로 바꾸기로 결정했고, 2학기 때부터 본격적으로 수학 과목을 수강했습니다. 3년 간 수강해야하는 수학 과목들을 1년 반 만에 수강하다보니 순서도 없이 마구잡이로 수업을 들었습니다. 원래 전공이었던 물리학과 수업도 들어야해서 정신이 없었습니다. 대학원을 수학과로 진학해 더는 물리학 공부를 하지 않아도 됐을 때 홀가분한 기분을 느꼈던 기억이 납니다. 대학원 초기에는 수학 기초가 부족하다고 많이 느꼈는데, 나중에는 학부 때 배웠던 물리학이 수학 연구에 도움이 되기도 했습니다.

-약 30년의 연구 활동 중에서 가장 기억에 남는 것은 무엇인가

1995년 여름부터 2003년까지 나이밍 목 홍콩대 교수와 진행했던 공동 연구가 떠오릅니다. 1995년 미국 버클리 수리과학연구소에서 진행된 복소기하학 분야 ‘스페셜 이어(special year)’에 참여했는데, 1년 동안 같은 분야의 연구자들과 한자리에 모여 연구할 기회였습니다. 목 교수와의 공동연구도 그 때 본격적으로 시작할 수 있었습니다. 제 연구의 80% 이상이 그와 함께한 연구에서 나온 아이디어와 연결될 정도로 큰 의미가 있습니다. 연구 목표는 당시 오래된 추측이었던 균질다양체의 변형 강직성을 증명하는 것이었지만, 그 과정에서 연구 목표보다 더 중요한 기하학적 개념들을 발견했습니다. 최근 연구로 2019년 증명한 히르쇼비츠 추측이 있습니다. 복소기하학 분야의 문제를 해석적 편미분방정식 분야의 아이디어를 가져와 해결했습니다.

-연구자로서 가장 힘들었던 순간은 언제였나

대학원 때입니다. 지도교수님이 박사학위를 위한 논문 주제를 제시했는데, 해결의 실마리를 못 찾고 있었습니다. 2년 동안 어떤 연구 결과도 얻지 못해서 너무나 답답했습니다. 당시에는 무척 힘들다고 느꼈지만, 지나고 보니 그 과정을 통해 연구 중 어떤 실수가 발생할 수 있는지, 문제가 풀리지 않을 때는 어떻게 해야하는지, 힘든 기간을 어떻게 버텨야 하는지 등을 배울 수 있었습니다.  말로는 다 전달하기 어려운 중요한 삶의 교훈들을 경험하게 된 시간이었습니다.

-어떤 연구를 진행 중인가

주로 복소해석적 편미분방정식 시스템이론이 복소대수기하학과 어떤 연관이 있는지에 관심이 있습니다. 특히 구멍이 없는 복소곡면인 ‘유리곡선’이 복소공간 안에서 어떻게 움직일 수 있는지 변형이론을 통해 연구하는 게 주된 주제입니다. 이 움직임을 연구할 때 미분방정식과 대수방정식이 신비롭게 연결됩니다.

-IBS에 합류한 뒤 달라진 점은 무엇인가

수학 연구를 할 때는 몇 개월 또는 몇 년 간 잘 진전되던 연구가 어느 한 단계에서 풀리지 않게 돼 전체 연구를 포기해야 하는 상황이 찾아올 수 있습니다. 또 연구자는 중요한 성과를 얻었다고 생각했는데, 다른 사람들이 관심을 갖지 않는다는 이유로 좋은 평가를 받지 못하는 상황도 생깁니다. 이런 불확실성을 감수하기 힘들어서 원하는 연구에 도전하지 못하는 경우가 많습니다. 그런데 IBS에서는 각 연구단에 최소 10년 이상 연구 지원을 보장합니다. 단기적인 연구 성과 창출에 대한 부담이 줄고, 원하는 연구에 집중할 수 있기 때문에 저로서는 큰 행운을 얻었다고 생각하고 있습니다.

-수학이란 본인에게 어떤 의미인가

많은 사람이 수학을 두고 ‘인간이 만들어낸 상상의 학문’ 또는 ‘다른 분야를 탐구하기 위한 도구나 논리’로 여깁니다. 하지만 수학의 많은 결과들은 인위적으로 생각해낸 것으로 보기엔 범위가 너무 방대하며 상상 이상으로 놀랍습니다. 또한 다른 분야의 도구로써 개발된 다양한 이론들은 수학의 일부일 뿐입니다. 제가 생각하는 수학은 인간의 머릿속에서 꾸며낸 것이 아닌, 실체가 있는 것입니다. 2020년 노벨 물리학상 수상자인 로저 펜로즈 영국 옥스퍼드대 교수의 표현을 빌리자면 ‘플라톤적 수학세계’가 존재하는 것을 믿는 것입니다. 수학자란 수학의 세계를 탐험하면서 발견한 것을 사람들에게 논문으로 보고하는 사람이라고 생각합니다.  

[홍아름 기자 arhong@donga.com]