세계적 난제 푼 교사 출신 수학자 “빠른 성과보다 깊이 공부하란 말 새겨”

최근 방한 박진영 美 뉴욕대 쿠란트 수학연구소 교수 인터뷰
교사로 일하다 美 대학원 입학
육아-연구 함께 해 마음 고생
“기본기 쌓은 뒤 즐겁게 공부해야”

“오히려 너무 몰입하지 않는 게 앞으로 목표입니다. 행복을 지키며 연구할 것입니다.”

2022년 6장짜리 논문으로 전 세계 수학계를 들썩이게 만든 한국 수학자가 있다. 박진영 미국 뉴욕대 쿠란트 수학연구소 교수(사진)가 주인공이다. 7일 서울 동대문구 카페에서 만난 박 교수는 앞으로의 계획에 대한 질문에 이같이 말했다. 그는 고등과학원에서 열리는 콜로키움 참석을 위해 3박 4일 빡빡한 일정으로 한국을 찾았다.

박 교수는 16년 된 이산수학 분야 난제 ‘칸-칼라이 추측’을 증명했다. 평생 한 번 이름을 싣기도 어렵다는 수학 최고 학술지인 ‘수학연보’에 40대의 나이로 2회나 이름을 올리며 전 세계 수학계를 놀라게 했다. ‘수학교사 출신’, ‘늦깎이 학생’, ‘워킹맘’이라는 그를 수식하는 키워드는 학계를 또 한 번 놀라게 했다.

대학에서 수학교육을 전공한 박 교수는 2005년부터 중학교에서 수학을 가르쳤다. 2009년 서울시교육청 우수 교사상을 받을 정도로 열정이 넘쳤다. 2011년 남편이 직장을 옮기면서 미국으로 함께 떠났다. 문득 수학을 더 배우고 싶다는 오랜 꿈이 떠올랐다. 하지만 수학 교사라는 이력밖에 없다 보니 대학원 입학이 쉽지 않았다. 탈락 메일이 이어지던 중 마침내 2014년 미국 럿거스대 수학과에서 박사 과정을 시작할 수 있었다. 당시 나이는 32세였다.

박사 학위 시절을 돌이키던 그는 모르는 게 너무 많아 불안해 우는 날도 정말 많았다고 했다. 신생아를 키우는 육아와 공부를 병행하다 보니 공부 시간도 터무니없이 부족했다. 육아를 도와줄 가족도 없었다. “처음에는 이해가 되지 않던 수학 문제가 생각하고 또 생각하다 보면 차츰 이해가 되는 그 과정 자체에 서서히 매료돼 갔다”고 밝혔다.

어려웠던 박사 과정 시절 지도교수인 제프 칸 럿거스대 교수의 위로가 가장 큰 힘이 됐다. 칸 교수는 연구실에서 “진영, 왜 수학을 너보다 훨씬 빨리 시작한 동료와 너를 비교해?”라며 “빨리 결과를 내는 것보다 깊게 공부하는 게 더 중요해”라는 말을 자주 했다. 칸 교수의 위로가 특별했던 이유는 박 교수와 비슷한 배경을 갖고 있어서다. 칸 교수도 학부에서 영문학을 전공하고 영어 교사 자격시험을 준비하다 남들보다 늦게 수학과 박사가 됐다. 박 교수는 “공감에 진심이 느껴졌다”면서 “그때 처음으로 학계에 다양한 배경의 사람이 모여야 한다는 ‘다양성’의 가치를 느꼈다”고 말했다.

박 교수는 2020년 박사학위 취득 뒤 프린스턴고등연구소(IAS)를 거쳐 2022년 스탠퍼드대로 자리를 옮겼다. 지도교수와 함께 2021년 진행한 연구를 확장해 2022년 칸-칼라이 추측을 해결한 6장짜리 논문을 발표했다. 이는 물질이나 구조의 상태가 확 달라지는 기준점인 ‘임곗값’과 비슷할 것으로 예상되는 ‘기대 임곗값’을 알아내는 방법에 관한 확률적 조합론 분야의 16년 된 난제였다.

당시 여러 문제를 풀던 중 또 다른 문제에 사용하려고 변형해 놓은 ‘수학 툴’을 이 문제에도 적용해 풀었다. 그동안 많은 수학자가 거짓이라고 생각한 추측을 참이라고 증명했다는 점 때문에 더욱 학계의 관심이 쏠렸다. 이 성과로 2022년 ‘실리콘밸리 노벨상’이라 불리는 브레이크스루상의 신진 여성 수학자상인 ‘2023 마리암 미르자하니 뉴프런티어상’ 을 받고 올해 노벨상 수상자 산실인 미국 슬론재단의 펠로십으로도 선정됐다.

성과는 하루아침에 찾아오지 않았다. 수학을 시작한 이래로 백일몽처럼 매일 수학 생각을 한다는 박 교수는 “틈날 때마다 수학 문제의 예시를 떠올리고 계산하고 나중에 쓸 수 있도록 쉽게 만드는 연습을 한다”고 말했다. 이어 “수학도 예체능 실력을 키우는 것과 같다”면서 “시간을 많이 쏟아야 하고, 기본기를 잘 쌓아야 하고, 재밌어야 하기 때문에 특별한 방법이 없다”고 했다.

앞으로의 목표를 묻는 질문에 박 교수는 오히려 “수학에 너무 몰입하지 않는 것”이라면서 일과 가정의 균형을 지키는 것이라고 답했다. 그는 “큰 상을 받아도 그동안 가족과의 평범한 일상을 놓쳤다면 제게는 진정한 행복이 아닐 것 같다”고 말했다.

이채린 동아사이언스 기자 rini113@donga.com