[젊은 두뇌가 뛴다]⑤ KAIST 문턱도 못 간다던 ‘범재’, 수학계 난제를 풀다

박진형 카이스트 수리과학과 교수 인터뷰
2018년 대수기하학 10년 난제 ‘시컨다양체’ 해결
“나는 ‘범재’…우직함으로 경쟁 이겨내”
“수학자 직업안정성이 곧 수학계 발전”

한국계 최초로 수학계의 노벨상으로 불린 ‘필즈상’을 받은 허준이 프린스턴대 교수는 1983년생이다. 나이를 따지는 한국 사회에서 1980년대생은 아직 젊은 실무진 축에 속하지만, 과학계에선 위상이 남다르다. 30대 중후반에서 40대 중반까지는 연구자의 역량과 아이디어가 빛나는 시기로 불린다. 한국연구재단에 따르면, 노벨상 과학 부문 수상자들이 자신의 핵심 연구를 처음 시작한 평균 연령이 37.9세로 나타났다. 조선비즈는 한국의 기초 과학과 공학을 이끌 차세대 리더들을 독자들께 소개하는 인터뷰 시리즈를 시작한다. 젊은 과학자들은 한국공학한림원과 한국과학기술한림원의 추천을 받아 선정했다. ‘제2의 허준이’를 넘어서 한국의 첫 노벨상 과학 부문 수상자, 그리고 한국 산업의 미래를 이끌어갈 핵심 인재가 이들에게서 나오기를 기대한다. [편집자주]

과거 프로이센 왕국 쾨니히스베르크(현 러시아 칼리닌그라드)는 독특한 지형으로 유명했다. 두 육지 사이에 한 줄기 강이 가르고 있었고, 강 위에는 두 개의 섬이 떠있었다. 강을 중심으로 모여있던 4개 땅 사이사이에 다리 7개가 놓여 있었다.

이곳 지형을 보고 누군가 “4개 땅 중 한 곳에서 출발해 다리 7개를 한 번씩만 건너 원래 있던 곳으로 돌아올 수 있는가?”라고 수수께끼를 냈다. 이것이 소위 ‘한붓그리기’의 원형인 쾨니히스베르크 다리 건너기 문제다. 이렇게 주어진 조건을 만족하는 경우의 수를 세는 분야를 ‘조합수학’이라 부른다.

허준이 프린스턴대 교수는 조합수학의 여러 난제들을 대수기하학적 방법으로 풀어낸 공로를 인정받아 지난해 필즈상을 거머쥐었다. 대수기하학은 방정식으로 정의되는 대수다양체를 연구하는 정통수학분야다. 수식을 보고 그에 맞는 도형(그래프)을 그리거나, 반대로 도형을 보고 그에 맞는 수식을 찾기도 한다. 대수(代數)란 ‘숫자를 대신하는 것’으로 방정식을 구성하는 x, y와 같은 요소를 뜻한다. 쾨니히스베르크 다리 건너기 문제를 예로 들면 다리 7개로 연결된 4개 땅에 해당하는 그래프를 그린 뒤, 그에 맞는 수식을 짜서 x나 y값을 구하는 방식으로 문제를 해결하는 식이다.

19일 화이트보드에 대수기하학 수식을 적고 있는 박진형 한국과학기술원(KAIST) 수리과학과 교수. /KAIST

대수기하학 분야에서 최근 한국 수학계 위상을 끌어올리고 있는 젊은 수학자가 있다. 1984년생으로 올해 갓 마흔이 된 박진형 한국과학기술원(KAIST) 수리과학과 교수다. 그는 지난 2018년 대수기하학 분야에서 10여 년간 난제로 꼽히던 ‘시드만-베르마이어의 추측’을 해결했다. 이 성과가 담긴 논문은 2020년 세계 최상위권 수학 저널인 ‘인벤시오네 마테마티케’에 실렸다.

시드먼-베르마이어의 추측은 ‘시컨다양체 방정식 난제’라고도 불린다. 시컨다양체는 2차원이나 3차원으로 그린 도형과 2번 이상 접하는 직선인 ‘시컨 직선’을 모두 모은 집합체다. 시컨다양체 방정식은 특정 도형의 무수한 시컨 직선을 한꺼번에 포괄하는 하나의 수식이다.

이런 수식을 만드는 게 가능하며, 그 수식이 수학 공식처럼 일정한 패턴을 보일 수 있는지 여부가 수학계의 난제였는데 박 교수는 그것이 가능하다는 것을 증명했다. 박 교수는 이런 공로를 인정받아 지난 2021년 3월 과학기술정보통신부(과기정통부)로부터 이달의 과학인상을 수상했다. 지금도 그는 국내외 석학들과 대수기하학 분야의 다른 난제들을 해결하기 위해 연구를 이어가고 있다.

평생 천재 소리를 듣고 자랐을 것만 같은 박 교수는 자신이 천재가 아닌 ‘범재(평범한 재주를 가진 사람)’라고 말했다. KAIST 진학을 꿈꾸며 서울 과학고에 진학했으나 담임 선생님으로부터 “너처럼 공부 못 하는 아이는 KAIST 문턱에도 못 간다”는 이야기를 들었다고 한다. 성적도 대부분 과목이 하위권이었고 특기였던 수학도 전교생 140여 명 중 30~40등 수준이었다.

턱걸이로 간신히 KAIST에 입학한 뒤에도 어려움이 많았다. 컴퓨터 프로그래머가 되기 위해 관련 과목들을 들었지만 성적이 좋지 않았고 수업 내용을 따라가기도 어려웠다. 졸업을 위해서는 현실적으로 컴퓨터공학을 가르치는 전산과가 아닌 수학과를 고를 수밖에 없었다고 한다. 그렇게 진학한 수학과에서 학사를 따는 데도 5년 반이 걸렸다.

타고난 천재가 아닌데도 어떻게 수학계의 손에 꼽히는 난제를 해결할 수 있었을까. 박 교수는 ‘우직함’이 정답이라고 답했다. 그는 “내가 할 수 있는 최대한의 것들을 내 자리에서 우직하게 하고 그러다가 찾아온 기회를 최대한 활용했다”며 “나와 같은 ‘범재 수학자’들이 꾸준히 자기 자리에서 버틸 수 있는 환경이 조성돼야 한국 수학계 저변이 더 튼튼해지고 발전할 수 있다”고 말했다.

지난 19일 대전 KAIST 산업경영학동 연구실에서 박 교수를 만났다.

19일 박진형 한국과학기술원(KAIST) 수리과학과 교수가 인터뷰를 진행하고 있다. /KAIST

-전공 분야인 ‘대수기하학’에 대해 설명해달라.

“중학교부터 고등학교 때까지 배우는 1~3차함수나 원 그래프, 포물선 그래프 등이 전부 대수기하학이라고 보면 된다. ‘y=x’라는 식을 보고 2차원 평면 위에 그래프를 그리는 것, 혹은 그래프를 보고 그에 맞는 수식을 세우는 게 전부 대수기하학이다. 여기서 ‘대수’를 ‘큰(大) 숫자’로 오해하는 경우가 있는데 그게 아니라 대신할 대(代)자를 쓴다. 교과 과정에서 ‘변수’라고 부르는 x, y, z가 바로 대수다. 실 숫자를 대신에 들어갔다는 의미에서 대수라는 이름이 붙었다.”

-필즈상을 수상한 허준이 교수의 전공 분야도 대수기하학이다. 대수기하학을 택하는 수학자가 많나.

“허 교수님 분야인 ‘조합 대수기하학’은 허 교수가 만든 새로운 연구 트렌드라 볼 수 있다. 필즈상은 전에 없던 방법으로 수학 분야의 난제를 해결하는 등 최고 성과를 거둔 40세 이하 젊은 연구자에게 주어지는 상이다. 그에 비해 내가 연구하는 ‘대수기하학’은 굉장히 전통적인 분야다. 19세기 중반 쯤 독일 수학자인 베른하르트 리만이 리만 곡면을 비롯한 여러 개념을 내놓으면서 대수기하학이 시작됐다고 볼 수 있다.”

-‘시컨다양체 방정식 난제’를 풀었다. 어떤 것인지 설명해달라.

“시컨다양체 방정식은 한 도형에 그릴 수 있는 ‘시컨 직선’을 모두 포괄하는 하나의 수식을 의미한다. 시컨 직선은 대수기하학 분야에서 그릴 수 있는 도형과 2번 이상 접하며 지나가는 직선을 의미한다. 시컨(Secant)이라는 말 자체가 ‘교차하는’이란 뜻을 갖고 있다. 그런데 종이에 작은 원 하나만 그린다고 해도 이 원과 접점이 2개인 직선은 정말 무수히 많이 그릴 수 있다. 아예 원을 그려놓은 평면을 전부 새까맣게 칠해놓고 “시컨 직선을 전부 그렸다”고 해도 틀린 말이 아니다. 때문에 시컨 직선을 모두 포괄하는 시컨다양체 방정식을 세울 수 있냐는 건 10년 넘게 묵은 난제였다. 제시카 시드만과 피터 베르마이어라는 수학자가 함께 제시한 난제였기 때문에 ‘시드만-베르마이어 추측’이라고도 불린다.”

-난제를 푸는 과정에서 우여곡절이 많았을 것 같은데.

“물론 어려웠다. 괜히 난제라는 이름이 붙었겠나. 다행히 나보다 훨씬 훌륭한 수학계 동료들과 함께 한 덕에 예상보다 빠르게 난제를 해결할 수 있었다. 미국 일리노이대 로렌스 아인 교수, 아칸소대 웬보 니우 교수와 함께했다. 2017년부터 연구에 들어가 2018년에 난제를 풀어냈는데, 둘 다 미국에 있어서 소통이 좀 어렵긴 했다. 이메일만 몇 백통씩 주고받았고 내가 직접 미국에 가거나 이들이 나를 보러 한국에 오기도 했다. 난제를 해결한 뒤엔 그 내용을 논문에 담아 수학계 최상위권 저널인 ‘인벤시오네 마테마티케(Inventiones Mathematicae)’에 기고했다.”

박진형 한국과학기술원(KAIST) 수리과학과 교수와 동료 연구자들이 함께 찍은 사진. 맨 왼쪽이 웬보 니우, 왼쪽에서 두 번째가 로렌스 아인 교수. 박 교수는 맨 오른쪽에 있다.

-로렌스 교수와 웬보 교수와는 어떻게 연이 닿았나.

“로렌스 교수는 수학계 원로이자 대수기하학의 대부와도 같은 분이다. 1980년대 전후부터 40년 동안 대수기하학 분야 발전을 이끈 리더다. 때문에 석사 시절부터 그의 존재를 알고 있었다. 그러던 중 2015년 내가 고등과학원에서 연구를 하고 있을 때 소속 연구원들 대상으로 3개월 해외 연수 프로그램이 진행됐다. 당시 멘토 교수였던 황준묵 교수님께서 여기 지원해보라 추천해주셨는데 이 해외연수 때 처음 로렌스 교수를 만나게 됐다. 아칸소 대학의 웬보 교수는 로렌스 교수의 제자 출신이다. 그렇게 셋이서 인연이 닿게 됐고 이후에도 웬보 교수와는 공동 연구를 몇 차례 진행했다.”

-학창시절에는 어떤 학생이었나. ‘천재’ 소리를 수없이 들었을 것 같은데.

“그랬으면 좋았겠지만 절대 천재는 아니었다. 오히려 ‘범재’에 가까운 수준이었다. 겸손을 떠는 게 아니라 실제로 그렇다. 서울과학고를 나왔는데 당시 담임선생님께서 너처럼 공부 못하는 애들은 KAIST 문턱에도 못 간다는 말을 종종 했다. 근데 사실 틀린 말이 아니었다. 전교 등수가 하위권이었고 수학을 빼면 다른 과목들은 전부 점수가 좋지 않았다. 그나마 잘했던 수학도 전교 등수는 30~40위로 상위 30% 수준이었다. 지금 생각하면 KAIST는 정말 운 좋게 턱걸이로 들어간 거라 생각한다. KAIST가 유독 수학 점수를 많이 본다는 ‘썰’이 있었는데 진짜였던 것 같기도 하다.”

-수학에는 타고난 재능이 있던 것 아닌가.

“어렸을 때부터 컴퓨터 프로그래머가 꿈이었다. 그래서 컴퓨터공학과를 가고 싶었다. 이를 위해서는 수학이 가장 중요하다는 걸 알고 난 뒤로는 수학을 정말 열심히, 많이 공부했다. 학원은 당연히 갔고 서점에서 파는 수학 문제집은 죄다 사서 빠짐없이 풀었다. 학교에서 수학이 아닌 다른 과목 시간에도 몰래 수학 문제를 풀 정도였다. 그러다 보니 수학이라는 과목에 익숙해진 것도 있다. 타고난 수학자였다기보다는 그냥 이과형 두뇌였다는 정도의 재능 아니었나 싶다.”

19일 박진형 한국과학기술원(KAIST) 수리과학과 교수가 인터뷰를 진행하고 있다. /KAIST

-KAIST 수학과에서 석사, 박사까지 했는데 너무 겸손한 것 아닌가.

“어렸을 때부터 수학에 몰두한 덕분에 기본 베이스는 좀 있었다고 본다. 결과적으로 KAIST에서 석박사를 따긴 했지만 학사에서부터 우여곡절이 있었다. KAIST는 2학년때 전공을 정한다. 컴퓨터공학 쪽을 전공할 생각으로 1학년때 관련 과목을 들었는데 쫓아가질 못했다. 그래서 고민 끝에 현실적으로 졸업을 위해서는 수학과를 고를 수밖에 없다고 생각해 수학과로 갔다. 거기서도 날고 기는 천재들 사이에서 공부하다 보니 나는 정말 천재가 아니라는 걸 뼈저리게 느꼈다. 남들은 4년 만에 하는 학사 졸업도 나는 5년 반이 걸렸다.”

-결국엔 수학계의 난제를 해결했다. 비법이 뭔가.

“범재이기에 정말 최선을 다했다. 내 자리에서 내가 할 수 있는 모든 것을 우직하게 해냈다. 연구가 됐든 강의가 됐든 다 마찬가지였다. 그러던 도중에 웬보 교수와 시컨다양체 방정식 난제에 대한 이야기를 나누다가 같이 연구를 하게 됐고, 여기에 로렌스 교수도 참여하면서 판이 커졌다. 나 혼자 한 게 아니라 정말 많은 도움을 받았다. 어떻게 보면 해외 연수 때 닿은 인연이 운 좋게 작용했다 볼 수도 있다.”

-수학 분야에서 성과를 내는 데 ‘운’도 큰 요소라고 볼 수 있나.

“물론이다. 운적인 요소가 정말 크게 작용한다고 본다. 다른 학자들 성과가 그저 운이 좋았을 뿐이라고 폄하하는 건 절대 아니다. 다만 중요한 건 행운이 찾아왔을 때 스스로 그 행운을 붙잡을 준비가 돼있어야 한다는 거다. 웬보 교수가 난제 해결을 제안했을 때 내가 시큰둥하게 반응했다면 지금 이 자리에 없었을 거다. 의지가 있었고 언제든 연구를 시작할 준비가 돼있었기 때문에 좋은 결과를 낸 것이다. 행운이 언제 어디서 누구에게 찾아올지는 아무도 모른다. 나와 같은 범재들에게도 언제든 기회가 생길 수 있다.”

-국내에서 기초수학계에 대한 지원은 어떤가.

“굉장히 훌륭하다. 전체적인 지원 규모 자체는 최상위권 선진국들과 비교해도 뒤지지 않는다고 생각한다. 다만 그 지원이 지금보다 좀 더 균일하게 이뤄졌으면 좋겠다는 게 개인적인 바람이다. 쉽게 말해 이미 좋은 성과를 이룬 최상위권 천재들에게 지원이 쏠리는 게 아니라 더 많은 연구자들에게 지원이 골고루 돌아가야 한다. 그래야만 수학계 종사자들이 안정적으로 연구 활동을 이어가며 다른 분야로 빠져나가지 않을 거라 본다. 또 수학자가 될지 망설이는 어린 재능들에게도 더 많은 기회가 열릴 것이다. 수학자라는 직업이 더 안정적인 직장이 돼야만 한국 기초수학 수준이 더 크게 발전할 수 있을 것이다.”

19일 박진형 한국과학기술원(KAIST) 수리과학과 교수가 대수기하학 수식 앞에 서있다. /KAIST

박진형 한국과학기술원(KAIST) 수리과학과 교수는

2007년 한국과학기술원(KAIST) 수리과학과 학사 졸업

2009년 한국과학기술원(KAIST) 수리과학과 석사 졸업

2014년 한국과학기술원(KAIST) 수리과학과 박사 졸업

2014년~2019년 고등과학원(KIAS) 수학부 연구원

2019년~2022년 서강대학교 수학과 조교수

2022년~현재 한국과학기술원(KAIST) 수리과학과 부교수

2016년 대한수학회 상산젊은수학자상

2021년 이달의 과학기술인상 (과학기술정통부 주최, 한국연구재단 주관)

2022년~ 한국차세대과학기술한림원(K-KAST) 회원

- Copyright ⓒ 조선비즈 & Chosun.com -