발넓은 대수기하학 거인, 한국 수학 국제화 이끌다

[한겨레S] 박형주의 한국 수학의 인물 파노라마
임덕상

국내 신설 수학과의 1기 입학생
한국인 첫 미 아이비리그 교수로
변형이론 찬사 속 실생활 응용돼
한국 수학 지원·연구 전기 마련

생전의 임덕상 교수. 과학기술유공자 누리집 갈무리

1946년은 우리나라 최초의 수학과가 서울대에 만들어지고 조선수물학회(수학·물리)가 설립된 해다. 1928년에 개성에서 태어난 임덕상은 이해에 신설 수학과 1기로 입학했다. 입학은 했지만 가족을 부양해야 해서 고등학교 교사를 하는 틈틈이 학업을 이어가는 주경야독의 세월을 보냈다.

그러다가 한국전쟁이 발발했다. 파괴적 전쟁의 와중에서도 누군가는 미래를 준비해야 했다. 전쟁으로 조선수물학회의 활동이 멈추자, 1952년 3월 부산의 전시캠퍼스 천막교실에서 대한수학회가 분리 발족했다. 서울대 이임학 교수는 그해 5월 개최된 임시학회와 이듬해 1월 연구발표회에서 ‘최근 서구 수학 소개’ 강연과 군론에 관한 연구 발표를 했다. 특이하게도 전쟁 중에 다수의 수학과가 설립됐다. 1951년에 전북대, 1952년에 전남대·경북대·충남대에 수학과가 설립됐고, 1953년엔 부산대 수물학과와 이화여대 수학과가 설립됐다.

임덕상은 입학 후 8년 만인 1954년 대학을 졸업했고 이듬해 미국 인디애나대학으로 유학 갔다. 1955년 초 대한수학회 정기총회에서 ‘추상 대수에 관하여’라는 연구 발표를 하고 떠난 그는 놀라운 속도로 2년 만인 1957년에 박사 학위를 받았다. 브랜다이스대학 조교수를 거쳐서 1965년에 펜실베이니아대 교수가 됐고, 한국인 최초의 아이비리그 수학 교수라고 불리게 됐다.

정수론 난제 해결법 열어

임덕상은 현대 수학의 주요 분야인 대수기하학을 연구했다. 두 개의 방정식 x+2y=1과 2x-3y=2의 공통근을 찾는 것은 대수이고, 두 직선이 만나는 점을 찾는 것은 기하인데, 대수기하는 이러한 대수와 기하의 상호작용을 다루는 분야이다. 중학교 시절부터 배우는 이런 상호작용은, 직각삼각형이라는 기하적 성질로부터 세 변 사이의 대수적 관계를 끌어내는 피타고라스 정리에도 나타난다. 수천년을 넘는 대수기하의 역사에서, 좌표 개념을 도입해서 대수와 기하 사이의 장벽을 없앤 것은 17세기 데카르트였고, 20세기를 지나면서 빛나는 천재들의 업적이 쌓이면서 심오한 수학의 분야로 여겨지게 되었다.

미분의 개념을 복소수로 확장한 리만과 그를 계승한 이탈리아학파, 추상대수의 토대 위에 대수기하를 굳건하게 건설한 독일학파의 업적에 이어, 그로텐디크가 주도한 프랑스학파의 종횡무진 활약으로 대수기하는 격변의 시기를 맞았다. 이런 격변기에 한 획을 그은 임덕상은, 유한군 위에 정의된 모듈(벡터들의 모임)의 분류 이론을 만들었고 코호몰로지라는 불변량이 어떻게 기하적 성질을 특정하는가를 규명했으며 작은 기하적 변형이 초래하는 결과를 탐색하는 변형이론의 업적으로 찬사를 받았다.

그는 세계적인 학자들과 깊은 유대를 가졌는데, 동갑내기였던 1966년 필즈상 수상자인 그로텐디크와 변형이론에 관한 책을 공저했다. 그로텐디크의 작업을 통해서 대수적 대상(환과 모듈)과 기하적 대상(다양체)의 연구가 완벽하게 동등해졌고, 이를 통해서 정수론의 난제를 대수기하학의 방법으로 연구하는 길이 열렸다. ‘페르마의 마지막 문제’와 같이 수백년 동안 난공불락이던 정수론 난제들이 대수기하의 방법으로 해결되기 시작했다. 페르마 문제의 해결 과정에서 주요 역할을 했던 타원곡선이 현대인의 교통카드에서 개인정보를 보호하는 암호에 사용되는 걸 포함해서, 현실 세계와 무관해 보이던 대수기하의 새로운 응용도 속속 발견됐다.

그로텐디크가 정수론의 난제를 대수기하적으로 접근하는 길을 열었다면, 조합론의 난제를 대수기하적 방법으로 접근하는 길을 연 것은 2022년 필즈상 수상자인 허준이 교수이다. 그가 길을 보여준 ‘대수기하가 조합론을 품는 여정’은 아직 진행 중이다.

고국의 수학 분야 성장에 지대한 관심을 가졌던 임덕상은 대한수학회 특별 강연이나 국내 대학원 방문 강의로 젊은 한국 수학자 지원을 위해 노력했다. 그는 자신보다 3살 어렸던 하버드대의 히로나카와도 가까운 사이였는데, 대수기하의 ‘특이점 해소’ 업적으로 1970년 필즈상을 수상한 히로나카는 한국을 자주 방문하며 한국 수학계와 오랜 유대를 지속했다.

☞한겨레S 뉴스레터 구독하기. 검색창에 ‘한겨레 뉴스레터’를 쳐보세요.

☞한겨레신문 정기구독. 검색창에 ‘한겨레 하니누리’를 쳐보세요.

새 패러다임 찾는 국제워크숍

미국 컬럼비아대학에서 박사후연구원으로 있던 시절의 임덕상 교수(맨 오른쪽). 과학기술유공자 누리집 갈무리

한국에서 개최된 수학 분야 최초의 국제워크숍은 1979년의 ‘한-미 수학워크숍’이었다. 3주 동안 11명의 국외 학자 강연과 후속 세미나 등으로 진행된 학회에는, 당시로는 대규모인 166명이 참여했다. 미국의 국제원조 프로그램인 국제개발법(AID) 차관으로 1975년부터 5년 동안 서울대는 도서와 학술지를 다량 구입하고 국외 학자들도 초청할 수 있었는데, 그렇게 개최된 학회에 국제 연구의 흐름에 목말랐던 국내 학자들이 몰려든 것이다.

1981년 한국에서 나온 국제 수학 논문은 단 3편이었다. 국제적 연구의 흐름을 이해하고 따라잡기 위한 사투가 벌어지던 시기였다. 1979년 워크숍의 강연자 명단에는 권경환, 임덕상, 이정림 등의 재미 한인 수학자뿐만 아니라 히로나카의 이름도 있었다. 한국 수학계의 열정에 깊은 인상을 받은 히로나카는 강연료 600달러를 대한수학회의 국제화 프로그램에 모두 기부했다. 오랜 시간이 흘러 2014년 세계수학자대회(ICM)의 서울 유치 노력이 한창 진행되던 2009년과 2010년에도 각 1만달러를 유치위원회에 기부했는데, 이는 모두 개발도상국의 젊은 수학자들이 그 대회에 참석하도록 지원하는 경비로 쓰였다.

실험과학 분야에서는 난제를 만났을 때 당연히 실험실에서 이를 돌파한다. 수학에서는 어떨까? 안 풀리는 문제에는 이유가 있게 마련이고, 수학의 난제는 기존 틀의 허점을 드러낸다. 다자간 생각의 교환을 통한 집중적인 해결 노력을 야기하고 사고의 파격적 확장, 즉 새 패러다임을 이끈다. 그래서 학자들이 ‘모이는’ 행위가 실험실의 역할을 하는 수학에서는 학술회의나 세미나의 절대 수가 많고, 독일의 오버볼파흐 연구소처럼 모이는 것만 전담하는 세계적인 수학연구소도 여럿 있다. 그러니까 1979년 한국의 첫 국제 학회는, 우리가 무엇을 알고 무엇을 모르는지, 앞으로 무엇을 할 것인지를 정리하는, 한국 수학 연구의 전기였다.

현대 수학의 도입이 늦었던 우리나라에서 대수기하학 분야의 거인이 된 임덕상은 탁월한 연구 업적과 비범한 국제 연구 네트워크를 통해서 한국 수학계에 두고두고 남을 자취를 남겼다. 그는 2020년 대한민국 과학기술유공자로 지정됐다.

아주대 교수

서울대 물리학과 졸업 후 미국 유시(UC)버클리에서 수학 박사 학위를 받았다. 고등과학원·포항공대 교수를 지냈고 아주대 총장을 역임했다. 2014년 세계수학자대회 조직위원장과 한국인 최초의 국제수학연맹 집행위원도 맡았다.