[필즈상 그후 1년]② 허준이의 정수 ‘조합 대수기하학’과 수학계의 꽃 ‘조합론’

조합론, 대수학, 기하학 합쳐진 분야 개척
색칠하는 경우의 수 따지는 ‘리드 추측’ 증명
효율적인 알고리즘 찾는 지름길 열어

허준이 미국 프린스턴대 교수가 수학계의 노벨상으로 불리는 ‘필즈상’을 받은 지 1년이 됐다. 허 교수의 수상을 계기로 한국 수학계의 위상이 높아지고, 기초과학에 대한 정부의 지원도 늘고 있다. 하지만 허 교수 같은 최상위 수학자의 부상과는 별개로 한국 수학이 처한 현실 자체는 여전히 암담하다는 지적도 있다. 조선비즈는 4회에 걸쳐 허 교수의 필즈상 수상을 계기로 한국 수학계에 불어온 새로운 변화의 바람과 현실, 앞으로 나아가야 할 방향을 조명한다. [편집자 주]

허준이 교수, 조합론의 난제를 대수기하학적으로 해결해 필즈상 수상

지난해 7월 허준이 미국 프린스턴대 수학과 교수(고등과학원 수학부 석좌교수)가 필즈상을 수상했다는 소식이 전해졌다. 필즈상은 ‘수학계의 노벨상’으로 불릴 정도로 권위가 높은 상이다. 허 교수의 필즈상 수상 소식은 연일 국내 언론을 장식했다.

그런데 정작 허 교수가 왜 필즈상을 받았는지는 1년이 지난 지금까지도 제대로 아는 사람이 많지 않다. 수학이라는 분야의 특수성 탓에 허 교수의 업적과 연구 성과를 제대로 이해하는 사람을 찾아보기 힘들기 때문이다. 이건 언론도 마찬가지였다. 과학 기자들 역시 조합론과 대수기하학을 연결 짓는 ‘조합 대수기하학’으로 조합론의 난제를 해결하고 대수기하학의 새 지평을 열었다는 평가를 받는 허 교수의 연구 내용을 이해하는 사람이 거의 없었다.

사이언스조선은 허 교수의 필즈상 수상 1년을 맞아 허 교수의 연구 성과가 구체적으로 어떤 의미가 있는지, 우리 삶에 어떤 의미를 갖는지 엄상일 KAIST 수리과학과 교수 및 기초과학연구원(IBS) 그룹장(CI), 에릭 카츠(Eric Katz) 미국 오하이오 주립대 교수의 도움을 받아 정리해 봤다.

허준이 미국 프린스턴대 교수는 지난해 필즈상과 맥아더상 등을 수상했다./맥아더 재단

◇조합론과 대수학, 기하학이 만난 ‘조합 대수기하학’

조합론은 셀 수 있거나 유한한 대상 중에서 어떤 기준을 만족하는 것들을 연구하는 분야다. 조합론이라는 이름에서 겁을 먹을 수도 있지만 의외로 간단하다. 대부분의 사람이 정규 교육과정에서 배우는 ‘집합’이나 ‘경우의 수’ ‘순열과 조합’이 조합론이다. 예컨대 ‘5개의 물건 중 3개의 물건을 선택하는 경우의 수를 찾아라’ 같은 문제가 조합론이라고 보면 된다. 문제에 주어진 특별한 조건을 만족하는 것들의 경우의 수를 탐구하는 학문이다.

대수기하학은 조합론보다 조금 어렵다. 대수기하학은 다항식을 다루는 ‘대수학’과 도형을 다루는 ‘기하학’이 합쳐진 분야다. 직선부터 평면, 타원, 쌍곡선 등의 도형을 다항식으로 나타내고 분석한다. 예를 들어 1차 다항식 ‘x-y=0′으로 직선을 나타내고, ‘x²-y=0′으로 포물선을 나타내듯 대수와 기하의 상호관계를 연구한다.

허 교수의 연구 분야인 ‘조합 대수기하학’은 사칙연산을 바탕으로 기하학적인 대상을 연구하는 대수기하학의 방법론으로 조합론의 문제를 해결하는 것을 말한다. 조합론과 대수학, 기하학이라는 세 가지 분야가 합쳐졌으니 당연히 복잡하고 어려울 수밖에 없다. 수학계에서도 비교적 최근에 등장한 학문이다.

◇색칠 놀이에서 시작한 허 교수의 연구

허 교수의 석사지도교수와 같은 지도교수 밑에서 수학한 유상범 공주교대 수학교육과 교수는 “허 교수의 연구업적을 이해하기 위해서는 조합론의 유명한 고전 문제인 ‘4색 문제’를 살펴봐야 한다”고 설명했다. 4색 문제는 나라를 구분 짓는 평면지도를 4가지 색만 사용하되, 인접 지역을 다른 색으로 구분할 수 있게 색을 칠할 수 있는지 묻는 문제다. 이 문제는 1852년에 처음 제시됐는데 마침내 1976년 해결되기까지 100년 넘게 걸렸다.

4색 문제의 풀이법은 그래프와 다항식이었다. 수학에서의 그래프는 꼭짓점과 서로 다른 점을 연결하는 변으로 구성된 구조다. 지도에서 점으로 나타낸 인접한 두 지역은 변, 즉 선으로 연결한 그래프로 나타낼 수 있다. 서로 인접한 세 지역은 아래와 같은 삼각형 그래프로 나타낼 수 있다.

서로 인접한 세 지역을 그래프로 나타낸 예시./유상범 공주교육대 수학교육과 교수

이 그래프를 그래프 G라고 하고, G의 점들을 q개의 색으로 칠할 때, 인접한 두 점은 다른 색으로 칠하는 경우의 수를 xG(q)라 나타낸다고 가정한다. 위의 삼각형 형태의 그래프는 2개의 색을 사용하면 인접한 두 점을 다른 색으로 칠할 수 없다. 반드시 한 점은 다른 점과 같은 색이 된다. 따라서 xG(2)=0이다. 반면 3개의 색을 사용하면 아래의 그림처럼 6가지의 경우가 가능해 xG(3)=6이다.

삼각형 모양 그래프의 꼭지점을 세 가지 색으로 칠하는 경우들../유상범 공주교육대 수학교육과 교수

수학자들은 주어진 색으로 그래프를 칠할 수 있는 경우의 수를 다항식으로 정리했다. 위 삼각형 그래프에서 q개의 색을 사용할 때, 첫 번째 점에 칠할 수 있는 색의 수는 q다. q개 중 한 가지를 골라 첫 번째 점을 색칠한 뒤, 두 번째 점에 칠할 수 있는 색의 수는 q에서 1을 뺀 (q-1), 그다음 세 번째 점에 칠할 수 있는 색의 수는 (q-2)다. 이때 색칠할 수 있는 모든 경우의 수 xG(q)는 각각의 경우의 수를 곱한 아래의 식으로 나타낸다.

xG(q)=q(q-1)(q-2)=q³-3q²+2q

xG(q)는 이처럼 q의 다항식으로 주어지는데, 이를 그래프 G의 ‘채색다항식’이라 부른다. 이웃한 꼭지점을 서로 다른 색으로 칠할 때 특정 개수의 색 이하를 쓰는 경우의 수를 나타내는 식이다. 색칠하는 경우의 수를 그래프와 다항식으로 나타낸 결과다.

◇허 교수, 채색다항식 등 조합론 관련 난제 11개 해결해

허 교수의 대표 업적은 채색다항식과 관련된 ‘리드 추측’을 해결한 것이다. 리드 추측은 1968년 영국의 수학자 로널드 리드가 제시한 조합론 문제이다. 채색다항식의 계수 절댓값은 증가하다가 감소할 수는 있지만, 감소하다가 증가할 수 없다는 것이 리드 추측이다.

예를 들어 앞의 삼각형 그래프에서 xG(q)는 q³-3q²+2q다. 이때 계수의 절댓값은 앞부터 1, 3, 2로 증가하다가 감소한다. 사각형 모양의 그래프의 xG(q)는 q^4-4q³+6q²-3q로, 계수의 절댓값은 1, 4, 6, 3으로 역시 증가하다가 감소한다. 이는 혹이 하나 있는 낙타의 등과 같은 모양이 된다고 ‘단봉(unimodal) 패턴’이라 하며, 이 패턴이 모든 그래프의 채색다항식에서 나타난다는 주장이 리드 추측이다.

리드 추측은 그 누구도 해결하지 못하고 있었다. 허 교수는 박사 졸업을 2년 앞둔 대학원생이던 2012년, 리드 추측이 참이라는 것을 증명했다. 수학계에서 내로라하던 수학자들도 풀지 못했던 문제를 대학원생이 해결한 것이다.

허 교수는 이런 조합론 문제를 다른 수학 분야인 대수기하학 방법으로 해결했다. 허 교수는 그를 수학으로 이끈 히로나카 헤이스케 하버드대 명예교수의 특이점 이론을 사용했다. 히로나카 교수는 1990년 역시 필즈상을 받았는데, 특이점 해소가 업적이었다. 대수기하학에서 특이점이란 좌표평면에 그린 함수 그래프에서 선이 뾰족하거나 서로 겹칠 때 생기는 매끄럽지 않은 점을 말한다.

허 교수는 “히로나카 교수에게 배운 특이점을 적용하니 문제가 풀렸다”며 “당시는 문제를 제대로 알지 못하면서 답부터 안 셈”이라고 말했다. 허 교수는 2015년 리드 추측을 일반화한 문제인 로타 추측도 카림 아디프라지토 이스라엘 예루살렘 히브리대 교수와 에릭 카츠 미 오하이오 주립대 교수와 같이 해결했다.

로타 추측은 1971년 미국의 수학자 잔 카를로 로타가 제시한 난제이다. 허 교수는 로타 추측을 해결해 다른 조합론 문제들에서도 단봉 패턴이 나타난다는 것을 증명했다. 이는 여러 조합론 문제와 대수기하학의 연관성을 발견한 대표 사례로 꼽힌다. 유 교수는 “분야를 넘나들며 실제로 난제를 해결했을 뿐 아니라, 앞으로 여러 조합론 난제를 대수기하학을 통해 해결할 실마리를 찾았다”고 말했다.

허 교수는 이때부터 블라바트니크 젊은 과학자상과 뉴호라이즌상 등 세계적인 상을 받기 시작했다. 필즈상을 받을 수 있는 최대 나이인 만 40세가 되기 전에 호가 추측과 메이슨-웰시 추측을 포함해 총 11개에 달하는 난제를 해결했다.

2020년에는 다변수 다항식의 한 종류인 로렌츠 다항식이 어떤 성질을 갖는지 역시 대수기하학과 조합론을 연결하는 방식으로 연구해 수학 권위지인 ‘수학 연보’에 발표했다. 이 결과는 후에 80쪽이 넘었던 로타 추측 증명을 10쪽 내외로 줄이는 데 기여했다. 허 교수와 같이 연구한 카츠 교수는 “대수기하학의 아이디어로 수학에서 완전히 다른 분야인 조합론에 혁명을 일으켰다”고 말했다.

2021년 조합론 난제를 해결한 공로를 인정받아 '수학계 노벨상' 아벨상을 받은 로바스 라즐로 헝가리 엘테대 명예교수./아벨상

◇수학계 떠오르는 분야 ‘조합론’, 국제 수학계 휩쓸어

허 교수는 필즈상 수상 직후 인터뷰에서 “제게 수학은 개인적으로는 저 자신의 편견과 한계를 이해하는 과정이고 좀 더 일반적으로는 인간이라는 종이 어떤 방식으로 생각하고 또 얼마나 깊게 생각할 수 있는지 궁금해 하는 일”이라며 “저 스스로 즐거워서 하는 일에 의미 있는 상도 받으니 깊은 감사함을 느낀다”고 밝혔다. 하지만 허 교수의 겸손한 수상 소감과는 별개로 허 교수는 조합론과 대수기하학에 정통해 여러 난제를 해결했다는 학계의 인정을 받았다.

허 교수가 해결한 리드 추측을 포함한 11개의 조합론 난제는 실생활과도 밀접하게 닿아있다. 허 교수는 지난해 “인터넷 사용자 하나를 꼭지점으로 보고 이들이 연결되는 형태를 같은 수학으로 해석할 수 있다”고 말했다.

엄상일 KAIST 수리과학과 교수 겸 기초과학연구원(IBS) 그룹장은 “조합론 난제가 해결되면 조합 최적화를 찾는 효율적인 알고리즘을 설계하는 데 적용할 수 있다”고 말했다. 조합론은 정보통신이나 반도체 설계, 교통, 물류, 기계학습, 통계물리 등에 쓰이는 알고리즘을 만들 때 쓰인다. 박형주 아주대 석좌교수는 “현대 통신을 포함하는 광대하고 복잡한 네트워크에 어떤 일관성이 있음을 밝힌 업적이어서 응용 측면에서도 깊이 있는 고찰이 이어질 것”이라고 말했다.

조합론은 한때 수학계에서도 철 지난 학문 취급을 받았지만, 지금은 대세가 됐다. 조합론의 대가인 수학자 로바스 라슬로가 2021년 또 다른 수학계의 큰 상인 ‘아벨상’을 수상한 데 이어 지난해 허준이 교수까지 필즈상을 받으면서 수학계가 다시 조합론에 열광하고 있다.

엄 교수는 “조합론은 컴퓨터가 나온 이후로 발전하기 시작한 젊고 유망한 분야”라며 “수학의 다른 전통적인 분야에 비해 늦게 시작됐지만 다른 분야와도 연결되고, 재미있는 문제들과 좋은 성과가 많이 나와서 주목을 받고 있다”고 밝혔다.

- Copyright ⓒ 조선비즈 & Chosun.com -