세계적 난제 푼 수학 교사 출신 수학자 "지나치게 몰입하지 않는 게 목표"

박진영 미국 뉴욕대 쿠란트 수학연구소 교수. Rod Searcey 제공

"오히려 너무 몰입하지 않는 게 앞으로 목표입니다. 행복을 지키며 연구할 것입니다."

2022년 6장짜리 논문으로 전세계 수학계를 들썩이게 만든 한국 수학자가 있다. 박진영 미국 뉴욕대 쿠란트 수학연구소 교수가 주인공이다. 7일 서울 동대문구 카페에서 만난 박 교수는 앞으로의 계획에 대한 질문에 이같이 말했다. 그는 고등과학원에서 열리는 콜로키움 참석을 위해 3박4일 빡빡한 일정으로 한국을 찾았다.

박 교수는 16년 된 이산수학 분야 난제 '칸-칼라이 추측'을 증명했다. 평생 한번 이름을 싣기도 어렵다는 수학 최고 학술지인 '수학연보'에 40대의 나이로 2회나 이름을 올리며 전세계 수학계를 놀라게 했다. '수학교사 출신', '늦깎이 학생', '워킹맘'이라는 그를 수식하는 키워드는 학계를 또한번 놀라게 했다.

대학에서 수학교육을 전공한 박 교수는 2005년부터 중학교에서 수학을 가르쳤다. 2009년 서울시교육청 우수 교사상을 받을 정도로 열정이 넘쳤다. 2011년 남편이 직장을 옮기면서 미국으로 함께 떠났다. 부족한 영어 실력으로 좌충우돌하던 박 교수는 문득 수학을 더 배우고 싶다는 오랜 꿈이 떠올랐다. 하지만 수학 교사라는 이력밖에 없다 보니 대학원 입학이 쉽지 않았다. 탈락 메일이 이어지던 중 마침내 2014년 미국 럿거스대 수학과에서 박사과정을 시작할 수 있었다. 당시 나이는 32세였다. 

당시 박사 학위 시절을 돌이키던 그는 모르는 게 너무 많아 불안해 우는 날도 정말 많았다고 했다. 신생아를 키우는 육아와 공부를 병행하다 보니 공부시간도 터무니 없이 부족했다. 대부분의 동료 수학자가 대학 때부터 차곡차곡 수학실력을 쌓아온 20대였다. 육아를 도와줄 가족도 없었다. 그는 "그럼에도 그냥 울면서 매일 공부했다"면서도 "처음에는 이해가 되지 않던 수학문제가 생각하고 또 생각하다 보면 차츰 이해가 되는 그 과정 자체에 서서히 매료돼 갔다"고 밝혔다.  

어려웠던 박사 과정 시절 지도교수인 제프 칸 럿거스대 교수의 위로가 가장 큰 힘이 됐다. 칸 교수는 연구실에서 "진영, 왜 수학을 너보다 훨씬 빨리 시작한 동료와 너를 비교 해?"라며 "빨리 결과를 내는 것보다 깊게 공부하는 게 더 중요해"라는 말을 자주 했다. 칸 교수의 위로가 특별했던 이유는 박 교수와 비슷한 배경을 갖고 있어서다. 칸 교수도 학부에서 영문학을 전공하고 영어 교사 자격시험을 준비하다 남들보다 늦게 수학과 박사가 됐다. 박 교수는 "공감에 진심이 느껴졌다"면서 "그때 처음으로 학계에 다양한 배경의 사람이 모여야 한다는 '다양성'의 가치를 느꼈다"고 말했다. 

박 교수는 2020년 박사학위 취득 뒤 프린스턴고등연구소(IAS)을 거쳐 2022년 스탠퍼드대로 자리를 옮겼다. 지도교수와 함께 2021년 진행한 연구(칸-칼라이 추측의 탈라그랑 버전)를 확장해 2022년 칸-칼라이 추측을 해결한 6장 짜리 논문을 발표했다. 이 추측은 물질이나 구조의 상태가 확 달라지는 기준점인 '임곗값'과 비슷할 것으로 예상되는 '기대 임곗값'을 알아내는 방법에 관한 확률적 조합론 분야의 16년 된 난제였다. 2006년 칸 교수는 길 칼라이 이스라엘 히브리대 수학과 교수와 함께 이 난제를 고안했다. 

당시 여러 문제를 풀던 중 또 다른 문제에 사용하려고 변형해 놓은 '수학 툴'을 이 문제에도 적용해 풀었다. 그동안 많은 수학자가 거짓이라고 생각한 추측을 참이라고 증명했다는 점 때문에 더욱 학계의 관심이 쏠렸다. 이 성과로 2022년 '실리콘밸리 노벨상'이라 불리는 브레이크스루상의 신진 여성 수학자상인 ‘2023 마리암 미르자하니 뉴프런티어상’을 수여하고 올해 노벨상 수상자 산실인 미국 슬론재단의 펠로우십으로도 선정됐다. 2023년부터 뉴욕대 쿠란트 수학연구소에 자리를 잡았다. 

성과는 하루아침 찾아오지 않았다. 수학을 시작한 이래로 백일몽처럼 매일 수학 생각을 한다는 박 교수는 "틈날 때마다 수학 문제의 예시를 떠올리고 계산하고 나중에 쓸 수 있도록 쉽게 만드는 연습을 한다"고 말했다. 이어 "수학도 예체능 실력을 키우는 것과 같다"면서 "시간을 많이 쏟아야 하고, 기본기를 잘 쌓아야 하고, 재밌어야 하기 때문에 특별한 방법이 없다"고 했다. 

앞으로의 목표를 묻는 질문에 박 교수는 오히려 "수학에 너무 몰입하지 않는 것"이라면서 일과 가정의 균형을 지키는 것이라고 답했다. 늦게 시작했다고 좋은 결과를 내는 데 집착하지 않고 스스로 행복하기 위해 수학을 하고 있다는 것이다. 그는 "큰 상을 받아도 그동안 가족과의 평범한 일상을 놓쳤다면 제게는 진정한 행복이 아닐 것 같다"며 "연구를 할 땐 수학에 집중하고 가족과 야구장에 갈 땐 최선을 다해 경기장을 즐기는 삶을 살고 싶다"고 말했다. 

[이채린 기자 rini113@donga.com]