[이우영의 과학 산책] 바젤 문제, 직관의 빛과 그림자

이우영 고등과학원 HCMC 석학교수

직관은 두 개의 얼굴을 지니고 있다. 근거 없는 확신을 주어 혼란을 부추기기도 하고, 논리의 벽을 뛰어넘는 창의성을 주기도 한다. 18세기에는 수학에서 직관이 난무했다. 당시 수학자들은 17세기에 발견된 미분법의 놀라운 응용성에 매료되어 직관을 무분별하게 사용하면서 엉터리 논문을 양산하였다. 이런 불합리한 직관을 바로 잡는 연구는 그 후 100년의 대부분을 차지할 만큼 어려운 일이었다.

김지윤 기자

이런 시기에 직관의 화신이 나타났으니, 바로 스위스 바젤 출신 수학자 레온하르트 오일러(1707~1783)였다. 그의 직관은 남달랐다. 그중 이런 일도 있었다. 17세기 중엽에 자연수 제곱의 역수의 (무한)합을 구하는 문제가 제기되었다. 흔히 ‘바젤 문제’라 불리는 것이다. 80년 이상 당대의 내로라하는 수학자들이 바젤 문제에 도전하였지만 모두 좌절했다. 그런데, 오일러가 1735년에 그 답이 원주율의 제곱을 6으로 나눈 값이라고 발표하여 세상을 깜짝 놀라게 했다. 그의 값은 그 전에 나온 모든 근삿값을 망라했다. 그때 그의 나이 28살, 오일러의 이름이 온 세상에 알려졌다.

오일러가 바젤 문제를 푼 비법은 무엇이었을까. 바로 직관이었다. 방정식의 근과 계수와의 관계를 바젤 문제에 그대로 적용한 것이다. 이는 ‘유한이든 무한이든 다를 바 없다’는 유아적 논리였으니, 당시 학계가 고개를 갸우뚱한 것은 당연한 일. 그러나 여기서 그리스 신화에 나오는 ‘카산드라의 예언’이 재현되었다. 모두 애써 믿으려 하지 않았지만, 신기하게도 오일러의 직관은 적중했다. 6년 후, 그는 엄밀한 증명을 세상에 알려 모든 의심을 해소했다. 오일러를 보면, 직관이 창의성의 원천임은 분명하다. 그러니 직관엔 빛과 그림자가 공존한다고 할 수밖에. 아이러니하지만, ‘직관적으로’라는 말을 들을 때 느끼는 두 감정, ‘기대’와 ‘의심’ 중 어느 하나를 택하는 것도 우리의 직관이니, 직관은 참 사랑스럽고도 고약한 존재이다.

이우영 고등과학원 HCMC 석학교수