[김상현의 과학 산책] 자유라는 능력

김상현 고등과학원 수학부 교수

“보면서도 믿을 수가 없네요.”

독일의 수학자 게오르크 칸토어(1845~1918)가 남긴 편지의 끝맺음이다. 당시까지 수학은 무한을 다루지 못했다. 점점 커지는 상태, 혹은 철학적 궁금증에 머무르고는 했다. 그런데 그는 무한을 순한 양처럼 길들이기 시작했다. 무한 사이의 뺄셈이나 곱셈도 가능했고, 어려운 방정식을 풀 수도 있었다. 이러한 발견에 흥분했던 칸토어의 말이었다. 그는 역사상 가장 급진적인 수학자로도 평가할 만하다. 그의 무한 이론은 수학의 근간을 흔들었다. 수천 년간 견고하다 믿었던 신전이었다. 수학계는 물론, 철학계, 신학계에서 그는 사기꾼과 이단 사이를 오고 갔다. 크로네커·바일·비트겐슈타인 등 당대 최고의 학자들이 그의 이론을 맹렬히 폄하했다.

김지윤 기자

모두가 그의 적은 아니었다. 당시 수학계를 선도하던 다비트 힐베르트는 무한의 유용함에 경탄했다. “누구도 우리를 칸토어의 낙원에서 추방할 수 없다.” 세월이 흘렀고, 힐베르트는 옳았다. 칸토어의 이론은 이제 현대수학의 머릿돌이 되었다. 그에게 수학은 무엇이었을까. “수학의 본질은 자유에 있다.” 무한이론을 변호하던 칸토어의 말이다. 일견 이상하게 들린다. 배우기 까다롭고, 사용하기 복잡한 생각의 도구. 잘못 찍힌 점 하나만으로 수백 페이지의 연구를 무너뜨릴 수도 있는 빡빡한 학문. 도대체 어디에 ‘자유’가 있다는 말인가. 그가 이야기한 자유는 단순한 억압의 소멸이 아니다. 원하는 곳에 닿을 수 있게 해 주는 능력이다. 운동장을 뛰어다니는 다섯 살 아이에게는 간섭이 없다. 반면, 파일럿은 중력과 양력의 법칙에 묶여 있고, 규제와 매뉴얼에서 한치도 벗어날 수 없다. 하지만, 하늘을 나는 자유로움은 파일럿의 몫이다. 칸토어 역시, 전통적 수학에 대한 거장의 이해를 가지고 있었다. 꿈에 다가갈 준비가 되었을 때, 자유는 비상(飛翔)이 된다. 이렇게, 칸토어는 무한을 인류에 선사했다.

김상현 고등과학원 수학부 교수