4차원 다양체 연구, 기하학·정수론 난제 해결 공헌

[한겨레S] 박형주의 한국 수학의 인물 파노라마
박종일·오희
세계수학자대회 강연 두 학자
유클리드와 다른 새 공간 발견
기하학·정수론, 원·평면 변형 통찰
융합·창의적 접근…많은 영감 줘

박종일 서울대 수리과학부 교수. 과학기술정보통신부 제공

2006년 스페인의 산티아고데콤포스텔라에서 국제수학연맹 총회가 개최됐다. 총회에서 결정한 사안 중에는 북한의 회원국 지위 박탈 안건이 있었다. 10년 이상의 기간 동안 연회비를 납부하지 않았고, 이에 관한 연맹의 연락에 일절 답신하지 않았기 때문이었다. 재정적 어려움을 소명한 경우에는 기다려주기로 했는데, 북한의 무응답에는 대안이 없다고 했다. 한국이 도울 방법이 있을지 필립 그리피스 연맹 사무총장에게 문의했지만, 방법이 없다고 했다. 하지만 이어진 마드리드 세계수학자대회(이하 대회)에는 2명의 북한 수학자들이 참가했다. 평양수학연구소의 김두진 교수는 15분 동안 진행하는 기여강연을 했는데, 편미분방정식과 제어이론에 관한 발표는 주어진 15분을 엄수한 잘 준비된 깔끔한 발표였다. 대회 기간 중에도 각종 논문 등의 연구 자료 확보에 열성적이었다.

2006년 이후 한국 수학자들 매번 초청

오희 미국 예일대 석좌교수. 박종식 기자 anaki@hani.co.kr

2006년 마드리드에서 처음으로 한국 수학자들이 초청 강연을 한 후에는 4년마다 개최되는 대회에 예외 없이 한국인 수학자들이 초청되고 있다. 그래서 처음이 어려운 거라는 옛말이 있는 모양이다. 2010년 인도 하이데라바드 대회에는 100명에 가까운 한국 수학자들이 대거 참가했다. 2006년을 거치며 연구 역량에 자신감을 가지게 된 대한수학회는 2014년 대회의 서울 유치를 추진했고, 캐나다·브라질과의 유치 경쟁을 뚫고 서울 유치를 거의 확정한 상태였다. 직전에 벵갈루루에서 개최된 국제수학연맹 총회에서는 다음 대회의 서울 개최가 추인되었고, 미래 수학 연구의 방향에 큰 영향을 끼치는 발표도 있었다.

미국 산업응용수학회(SIAM) 회장인 더글러스 아널드의 이례적인 발표였는데, ‘사악한 수’(Nefarious Numbers)라는 발표 제목부터 범상치 않았다. 상당히 많은 상업적인 학술지들이 심사 절차 없이 게재료만 내면 투고된 논문을 수락하거나, 자신들의 학술지에 실린 다른 논문들을 의무적으로 인용하도록 강제해서 학술지의 임팩트 팩터를 뻥튀기하고 있다는 내용이었다. 신랄한 고발을 뒷받침하는 여러 데이터를 보여주었는데, 순수수학보다 응용수학 분야에서 이러한 행태가 더 만연한 상황이어서 산업응용수학회장이 발표한다고 했다. 여러해가 지나서 우리나라에서 약탈적 학술지 및 학회 문제가 사회적 이슈가 되는 걸 보며 아널드 교수의 선견지명이 떠올랐다.

2010년 대회에서는 서울대의 박종일 교수와 당시 미국 브라운대학의 오희 교수(지금은 예일대학 석좌교수)가 초청강연을 했다. 박종일은 위상수학 연구자다. 우리가 살고 있는 시공간의 일반화된 개념인 4차원 다양체 분야에서 업적을 인정받았다. 진흙으로 만든 물체는 부드럽게 변형해도 본질적으로 크게 바뀌지 않는데, 예를 들어 진흙 도넛의 구멍 개수는 변하지 않는다. 구멍 개수, 즉 기하종수는 불변량의 예인데, 축구공은 구멍이 없으니 기하종수가 0이다. 문제를 뒤집어서 기하종수가 0인 물체는 어떤 것이 있을까라고 질문한다면 훨씬 어려운 문제가 된다. 그는 기하종수가 0이면서 단순연결이라는 다른 불변 성질까지 만족하는, 유클리드 공간과 본질적으로 다른 새로운 기하학적 공간을 발견했다. 이러한 업적으로 2010년 청암상과 2011년 한국과학상, 2013년 대한민국 최고과학기술인상을 수상했다.

오희는 동역학계의 방법론을 가지고 정수론이나 기하학의 난제들을 해결해내고 있다. 고대 그리스 시대의 수학자인 아폴로니우스는 서로 접하는 원들로 공간을 채우는 문제를 제안했었다. 예를 들어 평면에 제각각 크기의 원 3개가 서로 접하면서 있다고 하면, 이 세 원을 모두 접하는 원은 몇개가 있을까 같은 카운팅 문제다. 답은 2개다. 그는 이러한 카운팅 문제가 심오한 기하학의 문제로 표현됨을 보였는데, 기하학이나 정수론의 문제가 원들로 평면을 채우는 문제로 변형된다는 통찰은 기존 난제를 접근하는 새로운 길을 열었다. 무한 쌍곡 공간에서 특정 점들을 세는 문제나, 고대로부터 지금까지 여전히 인간의 이해가 충분하지 못한 “소수의 분포” 같은 문제들이 이런 예이다. 수학 내의 특정 분야에 얽매이지 않고 여러 분야를 묶어서 난제를 해결하는 그의 융합적이고 창의적인 접근은 많은 연구자들에게 영감을 주었고, 2015년 새터상(Satter Prize), 2017년 구겐하임 펠로십, 2018년 호암상을 수상했고, 2024년 미국학술원 회원이 되었다.

상은 ‘그다음 전선’ 제시하는 역할

2010년 인도 하이데라바드에서 열린 세계수학자대회에서 수상자들이 기념사진을 찍고 있다. 국제수학연맹 누리집 갈무리

올림픽 같은 스포츠 이벤트에서는, 이전에 인간이 다다르기 어려울 거라고 여겨지던 한계의 극복이 수시로 일어난다. 이러한 성취에 주는 ‘상’의 효용성도 분명하다. 과학 분야의 노벨상도, 특정인의 명예로 그치는 것이 아니라, 당대의 성취를 정리하고 인류에게 남겨진 “그다음 전선”을 제시하는 역할 때문에, 우리는 매년 결과를 기다리고 우리나라도 이런 지적 도전의 여정에 주요 역할을 하기를 기대한다. 1990년대 말까지 국내의 학문적 성취에 주는 상에서 수학 분야는 존재감이 적었다. 1994년에 대한민국학술원상을 받은 박세희 교수는 공간에 어떤 변형을 가하거나 함수를 적용해도 변하지 않는 부동점의 성질 연구에 천착했다. 1980년대와 90년대에 한국과학상을 수상한 박용문, 기우항, 김종식, 최재경 같은 수학자들이 있었다.

2000년대에 들어서 국내 수학 연구의 양적·질적 역량이 크게 늘면서 상황은 많이 바뀐다. 황준묵은 가장 대표적인 예이다. 2001년 한국과학상, 2006년 대한민국 최고과학기술인상, 2009년 호암상, 2021년 대한민국 학술원상을 수상했다. 2010년에는 국가과학자로 선정됐다. 127년 역사의 세계수학자대회에서 아직까지 유일한 한국인 기조강연자(2014년)이며 2023년 아벨상(수학자 닐스 헨리크 아벨의 이름을 딴 상. 필즈상과 함께 수학계의 가장 권위 있는 상으로 여겨짐) 심사위원도 역임했으니, 국내뿐 아니라 해외의 인정도 많이 받은 수학자다.

그의 전공 분야는 복소기하다. 대수기하는 다항식으로 표현되는 대수방정식과 기하학을 연구하고, 미분기하는 미분방정식으로 표현되는 변화와 곡률 등의 관점에서 기하학을 연구하는데, 황준묵은 대수기하와 미분기하를 오가는 연구를 통해 라자스펠드 추측의 해결이나 변형불변성 이론의 구축 같은 성취를 이뤘다. 다양한 분야의 도구를 사용해서 오랫동안 안 풀리는 미해결 난제들의 지뢰밭을 기회의 땅으로 만든 것이다. 미국 노터데임대, 서울대, 고등과학원 교수를 거쳐서, 지금은 기초과학연구원 복소기하연구단장으로 있다.

아주대 교수

서울대 물리학과 졸업 후 미국 유시(UC)버클리에서 수학 박사 학위를 받았다. 고등과학원·포항공대 교수를 지냈고 아주대 총장을 역임했다. 2014년 세계수학자대회 조직위원장과 한국인 최초의 국제수학연맹 집행위원도 맡았다.

·