[주말N수학] '자연수 집합'과 '짝수 집합' 크기는 같다?...수학 바꾼 '무한'
인류는 오랜 시간 수를 탐구해왔다. 그러다가 상상할 수조차 없이 큰 상태, 무한을 접하고 고민에 빠졌다. 시간이 흘러 어느새 무한이라는 단어가 우리의 일상에 들어왔지만, 우리는 무한을 제대로 알고 있을까. 수학자는 무한의 수학적 정의에 관해, 인문학자는 무한의 역사와 실재에 관한 철학적 사유에 대해 이야기해본다.
○ 첫 번째 질문. 인류는 무한을 어떻게 떠올리게 됐을까
Q(수학자). 무한을 단순히 큰 수라고 생각하는 분도 계실 텐데요. 사실은 어떤 정해진 큰 수를 넘어서 ‘영원히 끝나지 않는 상태’라는 어려운 개념이에요. 그럼 인류사에서 무한에 관심을 갖고 탐구하기 시작한 건 언제부터일까요.
A(인문학자). "유한한 삶을 사는 인간이 무한에 대해서 생각하기 시작했다는 것 자체가 흥미로운 일입니다. 인류는 무서운 자연재해를 겪고 신에 관한 생각을 가지면서부터 자연스럽게 무한한 존재에 관심을 가졌어요. 그러다 보니 무한에 관한 고민을 언제부터 시작했는지를 정확히 아는 건 어려운 일이지요. 무한을 수학적으로 연구한 고대 기록 가운데 흥미로운 것이 무엇이냐고 묻는다면, 고대 그리스 수학자 아르키메데스(기원전 3세기경)의 저서 <모래알을 세는 사람>을 이야기할 수 있어요.
아르키메데스는 공간 차원의 무한을 고민하면서 이 책을 썼는데요. 책에는 ‘우리가 사는 우주 전체를 모래알로 채운다면 얼마나 많은 모래알이 필요할까’라는 굉장히 재미있는 상상이 적혀 있어요. 그런 면에서 이 책이 인류가 무한을 다루기 위한 예비적인 작업으로서 의미가 있다고 생각해요. 아르키메데스의 <포물선의 면적에 관하여>라는 책에는 시간 차원의 무한을 고민한 흔적이 있는데요. 책에서 포물선과 직선이 두 점에서 만나 만드는 활꼴의 넓이를 구하려고 합니다.
먼저 활꼴에 내접하는 삼각형을 그리고, 삼각형을 빼고 남은 활꼴에 또 삼각형을 그리는 과정을 반복해 삼각형들의 넓이를 합하는 방법을 사용합니다. 이를 시간 차원의 무한이라고 말하는 이유는 삼각형을 내접시키는 작업을 끝도 없이 진행하기 때문입니다. 이 방법을 ‘소진법’이라고 하는데, 오늘날 무한히 수를 더하는 ‘무한급수’를 구하기위한 노력의 시초라고 할 수 있지요"
○ 두 번째 질문. 수학에선 무한을 어떻게 정의할까
Q(인문학자). 고대 그리스에서 무한으로 어떤 탐구를 했는지 짧게 살펴봤는데요. 오늘날 수학자는 무한을 어떻게 정의하나요.
A(수학자). "앞서 무한은 수의 개념이 아니라 영원히 끝이 안나는 상태에 가깝다고 했는데요. 아무리 큰 자연수가 있어도 그 수에 1을 더하면 새로운 자연수가 나타나잖아요. 그래서 가장 큰 자연수를 구하라는 질문에 대답할 수 없어요. 수학에서 이러한 부분을 엄밀하게 다루는 분야를 ‘집합론’이라고 합니다. 수학에서는 무한을 정의할 때 먼저 원소의 개수가 무한한 집합을 찾고, 그 집합의 크기를 무한이라고 이야기해요. 자연수 집합이 대표적이지요."
Q(인문학자). 그러니까 무한을 다루기 위해서 적절한 대상의 집합을 설정하고, 그 집합의 크기를 일종의 무한이라고 생각한 거네요. 그 말씀을 듣고 보니까 끝이 없는 무한을 크기로 표현한다는 게 너무 재미있는 생각 같아요. 그러면 더 큰 무한과 더 작은 무한으로 나눌 수도 있을까요.
A(수학자). "그렇죠. 그 부분이 무한을 이해하는 핵심이에요. 자연수 집합 안에 짝수 집합이 포함돼 있어요. 그러면 자연수 집합과 짝수 집합 중 어느 집합이 클까요? 대다수가 아무 의심 없이 자연수 집합이 더 크다고 생각할 거예요. 그런데 두 집합의 크기는 똑같아요. ‘한 집합이 다른 하나를 포함하고 있다’와 ‘한 집합이 다른 집합보다 크다’는 같은 문장이 아니에요.
그렇다면 무한 집합은 어떻게 크기를 비교할까요? 수학자들은 어떤 집합과 다른 집합이 일대일대응이 된다면 이 두 집합의 크기가 같다는 개념을 내세워요. 자연수 집합과 짝수 집합을 한번 비교해볼게요. 자연수 집합에서 1, 2, 3, 4…에 2를 곱한 짝수를 대응하면 빠지는 숫자가 없이 모두 일대일대응이 돼요. 그렇기 때문에 두 집합의 크기가 같아요.
자연수 집합과 유리수 집합의 크기가 같다는 것도 비슷한 방식으로 보일 수 있어요. 그렇다면 모든 무한 집합은 크기가 모두 같을까요? 놀랍게도 독일 수학자 게오르크 칸토어(1845~1918)가 실수 집합은 자연수 집합보다 크다는 사실을 증명했어요. 더 작은 무한과 더 큰 무한이 존재한다는 거예요. 그리고 이런 무한의 크기조차도 무한하다는 게 현대 수학에서 이해하고 있는 무한입니다."
Q(인문학자). 수학자는 복잡한 무한을 어떻게 다루나요.
A(수학자). "예를 들어서 설명해볼게요. A는 자신보다 100m 앞서가는 B보다 2배 빠른 속도로 B를 따라잡으려고 해요. 그런데 A가 100m를 가는 동안 B는 다시 50m를 가고, 이어 A가 50m를 가는 동안 다시 B는 25m를 더 가지요. 이렇게 A가 B를 따라잡으려고 애써도, B 역시 계속 움직이므로 A는 영원히 B를 따라잡을 수 없는 것처럼 보입니다.
이것이 기원전 5세기에 나온 ‘제논의 역설’입니다. 현대수학을 이용해 이 논리가 틀림을 보일 수 있지만, 19세기 전 까지는 이를 깨트릴 방법이 없었습니다.
앞서가는 사람이 처음의 절반을 가고 또 절반을 무한히 간다고 생각하면 끝이 없어 보이지만, 수로 나타내면 1/2+1/4+1/8+ …이에요. 이를 계산하면 1이라는 아주 간단한 수가 나오기 때문에 언젠가는 A가 B를 따라잡습니다. 이로써 인류는 무한한 덧셈을 걱정할 필요가 없습니다. 무한한 덧셈이라도 유한한 값으로 수렴하면 그 값을 그대로 이해하고 쓸 수 있으니까요.
이렇듯 수학자는 무한급수를 이용해 무한을 다룹니다. 다른 예시를 하나 더 들어볼게요. 수학자가 하는 일 중 하나는 증명이잖아요. ‘1부터 n까지 자연수의 합은 언제나 n(n + 1)/2 이다' 라는 명제를 증명한다고 생각해보세요. 이 명제가 참이려면 n이 어떤 수이건 모두 참이어야 해요.
이러한 명제를 증명하는 방법 중 하나가 ‘수학적 귀납법’이 이에요. n = 1일 때 성립함을 보이고, n = k일 때 성립한다고 가정한 뒤 n = k + 1이 성립함을 보이면 어떤 무한한 계산이라도 참과 거짓을 증명할 수 있지요."
○ 세 번째 질문. 우리는 진정으로 무한을 아는가
Q(수학자) 지금까지 무한에 관한 수학 이야기를 했는데요. 교수님이 생각하시기에 우리는 진정 무한을 아는 걸까요.
A(인문학자) "무한을 어떤 방식으로 정의하는지에 따라서 답이 다를 것 같아요. 저도 무한을 처음 배울 때는 잘 못 받아들였어요. ‘왜 이걸 알아야 하지?’라고 생각한 적도 있고요. 그런데 수학사를 공부해 보니까 그게 비단 저만의 경험은 아니었더라고요.
미적분학을 창시한 독일 수학자 고트프리트 라이프니츠 (1646~1716)조차 무한에 관해서 착각한 적이 있어요. 라이프니츠의 스승인 네덜란드 물리학자 크리스티안 하위헌스(1629~1695)는 라이프니츠를 시험해보려고 분모가 ‘삼각수’이고, 분자가 1인 유리수들의 무한급수가 수렴하는지를 묻는 문제를 냈어요.
라이프니츠의 풀이 과정을 보면 이 위대한 수학자조차도 유한과 무한을 혼동하고 있다는 사실을 알 수 있어요. 그런 걸 보면 무한을 이해하는 데까지 많은 시행착오를 겪어야 했네요."
수학자. 굉장히 좋은 말씀을 해주신 것 같아요. 앞서 제가 말했던 무한의 크기에 관한 이야기도 직관적이지는 않잖아요. 실제로 19세기 후반 칸토어가 처음 무한의 크기를 이야기했을 때 수학자들도 쉽게 받아들이지 못했어요.
20세기 초반 독일 수학자 다비트 힐베르트(1862~1943)와 영국 수학자 버트런드 러셀(1872~1970)에 의해 수리철학의 토대가 마련되면서 점차 무한을 받아들였지요.
수학자들 사이에서도 무한의 정의에 관해서는 아직도 의견이 분분해요. 예를 들면 ‘자연수 집합과 실수 집합의 중간 크기인 무한 집합이 있을까’ 같은 질문을 하지요.
‘연속체 가설’이라고 알려진 문제인데요. 근데 아주 신기하게도 ‘현재의 수학 체계에서는 이 명제가 참인지 거짓인지 증명할 수 없다’가 증명돼 있습니다. 증명할 수 없다는 게 증명됐다니 참 이상하지요. 어떻게 보면 우리가 무한에 여러가지 방법으로 접근하고 있지만, 무한은 아직도 아니 어쩌면 영원히 이해할 수 없지 않을까 생각합니다.
※관련기사
수학동아 4월, 수학에 질문을 던지다 무한은 수학을 어떻게 바꿨을까?
[김진화 기자 evolution@donga.com]
Copyright © 동아사이언스. 무단전재 및 재배포 금지.