‘수학의 유희’를 기억하며 [김민형의 여담]

수학 저술가 마틴 가드너의 ‘수학 게임’ 칼럼으로 유명해진 다중 도미노. 위키미디어 코먼스

김민형 | 영국 에든버러 국제수리과학연구소장

수십년 수학자로 활동해 온 내가 받는 질문 중에 “어릴 때부터 수학을 잘하셨어요?”가 있다. 정직한 답은 “아니요”이다. 초등학교 때 나눗셈을 못해서 야단맞았던 기억이 있고, 대학 입시를 준비하면서 본 ‘수학의 정석’에 나오는 내용은 역부족이어서 어느 정도 자신 있게 이해했다는 느낌은 대학교 2학년쯤에야 갖게 됐다. 그런데 내가 수학을 못하기만 했다는 생각을 약간은 교정할 기회가 최근에 있었다. 수학 저술가 마틴 가드너가 쓴 ‘수학의 유희’ 번역본 해제·추천 글을 맡으면서였다. 아버지가 구독하던 미국의 대중 과학잡지 ‘사이언티픽 아메리칸’에 나오던 그의 칼럼을 청소년기에 지속적으로 읽었던 기억이 나면서, 당시에 수학을 좋아하기도 했다는 사실을 재발견한 것이다.

2010년 타계한 가드너는 1956년부터 25년 동안 한달에 한번씩 수학 칼럼을 기고했다. 글은 대체로 가볍게 읽을 수 있는 것들이었고 기발한 문제들도 자주 등장했다. 스스로도 약간 놀란 것이, 칼럼 내용 가운데 문제 풀이를 특히 좋아했던 기억이다. 지금의 나는 문제 풀이를 별로 좋아하지 않는 수학자이기 때문이다.

가드너의 문제들은 별 배경 지식 없이도 풀 수 있는 게 대부분이었지만 문제 뒤에는 정수론, 위상수학, 함수론 등과 관련된 꽤 깊은 수학적 내용이 은밀하게 엮여 있는 경우도 많았다. 즉, 여러 수준에서 다차원적으로 읽고 풀어 볼 수 있었다는 이야기이다. 나는 논리학 문제를 특히 즐겼다. 가령 다음과 같은 수수께끼가 간단한 표본이다.

‘더운 여름날 수학자 세명이 주점으로 들어가 앉는다. 주인이 와서 “모두 시원한 맥주 하시겠어요?” 하고 물으니, 첫번째 수학자는 “모르겠습니다”라고 답했다. 두번째 수학자도 “모르겠습니다”라고 답하니, 세번째 수학자가 “네”라고 했다. 어찌 된 일인가?’

여러분도 생각해 보기를 바란다. 가드너는 이런 종류의 수수께끼를 통해서 점점 논리의 심오한 영역으로 독자를 이끌어 가며 결국은 현대철학에 광범위한 영향을 미친 ‘괴델의 불완전성 정리’의 직관을 전하기도 했다. 이런 글의 영향으로 나도 논리학만은 평균보다 일찍 공부한 셈이다. 대학 다닐 때까지도 논리학에 관심이 많다가, 어느 때인가부터 현대수학 연구 전반에서 수학과 논리학이 그리 특별한 관계에 있는 것이 아니라는 사실을 파악하면서 슬슬 이 글들을 잊어버렸다.

‘수학 대중화’를 해왔던 경험을 토대로, 가드너의 글들을 다시 보면서 감개무량과 감탄을 함께 경험한다. 두드러진 점은 저자의 겸허함이다. 나는 수학을 설명할 때 거의 항상 수학의 중요성, 그리고 세상을 이해하는 개념적 도구로서의 수학의 위력을 강조해왔다. 그러나 가드너는 칼럼의 이름 ‘수학 게임’(Mathematical Games)에서 나타냈듯, 어디까지나 즐거움을 내세웠다. 가드너는 과학과 문화에 대한 광범위한 지식을 지녔으면서도, 지식을 활용할 때 무게감을 완전히 덜어내는 특이한 문장력을 보여줬다. 자기 관점과 철학, 세계관을 앞세우기보다는, 일반 독자가 읽으면서 즐기는 것이 우선이라는 자세가 투철했던 것으로 보인다. 이는 가드너가 탁월한 마술사이기도 했다는 점과도 관계있을 것이다.(권위 있는 ‘마술’ 잡지에서 선정한 20세기 중요한 마술사 100인 명단에 가드너가 포함됐다.) 수학의 기묘한 비밀들을 독자와 공유하는 과정은, 기발한 마술을 보여주는 것과 굉장히 비슷하다.

독일 작가 헤르만 헤세는 소설을 통해서 문화와 역사와 자연의 섭리까지 집대성하는 ‘유리알 유희’를 묘사했다. 가드너의 글 역시 단순한 모습의 유희 사이에 우주의 비밀들을 살며시 숨겨 놓고 독자에게 찾아보라고 권한다. 여러 칼럼 중 저자 자신이 가장 좋은 글이라 판단한 50편을 묶어서 2004년에 미국에서 출판했다. 우리말 번역본인 ‘수학의 유희’가 지금이라도 출간되는 것은 반가운 일이다. 학생, 선생, 교수를 비롯하여 과학 대중화를 이끄는 활동가까지 무게 있는 수학을 가끔은 탈피해서, 책의 흐름을 따라 수학의 유희에 심취해 보기를 바란다.