[주말N수학] 대수와 기하는 어떤 관계일까
도형의 형태와 크기, 상대적 위치 등을 연구하는 기하학. 수와 수의 연산 등 수학적 구조의 성질을 연구하는 대수학. 두 학문은 서로 매우 다른 것 같지만 도형과 식을 긴밀하게 연결해주는 밀접한 관계다.
그래서 인문학자와 수학자가 함께 대수학과 기하학 사이의 관계를 탐구해보려고 한다.
○ 첫 번째 질문. 대수와 기하는 어떻게 같이 발전했는가.
Q(수학자). 기하학과 대수학의 만남이 고대부터 있었을 것 같은데 당시에는 두 학문이 어떻게 함께 발전했나요.
A(인문학자). "고대 그리스 수학자 에우클레이데스(영어로 유클리드)의 저서 '원론'부터 이야기해볼게요. '원론' 13권 중 2권은 ‘기하학적 대수학’이라는 별명이 붙은 만큼 오늘 이야기와 관련해서 주목해볼 만한데요. 2권에 있는 14개의 명제 모두 대수적인 내용을 기하학적으로 표현하고 있어요.
14개 명제 모두 도형의 변을 x, y로 정의한 뒤 수식으로 나타내서 정리하면 우리가 아는 곱셈공식으로 변환할 수 있어요. 예를 들면 (x + y)2와 (x - y)2의 관계를 기하학적으로 나타낸 그림도 있지요. 지금은 수식으로 간단히 쓸 수 있지만 당시에는 도형의 관계로 나타냈는데요. 이렇게 표현했다는 점이 굉장히 흥미로워 수학사에서도 연구가 많이 됐어요."
Q(수학자). 대수학과 기하학을 통합한 프랑스 수학자 르네 데카르트(1596~1650)와 에우클레이데스의 '원론' 사이에는 어떤 일이 있었나요.
A(인문학자). "데카르트는 17세기에 활발히 활동했고 에우클레이데스는 기원전 300년 경에 활동했다고 알려져 있어요. 둘 사이에는 거의 2000년의 간극이 있는 거지요. 그 사이에 대수학은 이슬람의 학자에 의해 더욱 발전했습니다. 그리스 수학자가 기하학적인 표현에 더 집중했다면 이슬람 학자는 대수학의 언어를 발전시켰다고 할 수 있어요.
대표적으로 이슬람 수학자 무함마드 이븐 무사 알-콰리즈미(780~850)는 2차, 3차 방정식의 해법을 만들고 대수 기호를 도입했지요. 이후 그리스와 이슬람의 여러 서적이 서유럽에서 번역되면서 두 지역의 연구가 통합됐고 더욱 무르익었어요. 두 분야가 통합할 수 있는 기반이 생긴 거지요.
데카르트 이전에 대수학과 기하학의 통합에 있어서 가장 중요한 역할을 한 학자는 프랑스 수학자 프랑수아 비에트(1540~1603)예요. 1591년 비에트는 어떤 것의 크기를 나타낼 때 수와 같은 대수적 크기와 선분이나 각과 같은 기하학적 크기를 구분하지 않았어요.
예를 들어 A + B라고 표현된 식은 A와 B라는 두 수의 덧셈을 표현한 것일 수도 있고 A와 B라는 두 선분을 연장한 기하학적 대상을 표현한 것일 수도 있지요. 이는 대수학과 기하학의 통합에 있어서 중요한 아이디어이며 이 아이디어는 데카르트에 의해서 크게 발전했습니다."
○ 두 번째 질문. 좌표평면은 어떻게 대수와 기하를 통합했는가
Q(인문학자). 데카르트가 고안한 좌표평면을 통해서 기하학과 대수학이 통합됐다면서요.
A(수학자). "좌표평면이 기하학적 대상을 방정식의 해로 표현할 수 있는 일종의 언어를 제공한 셈이에요. 방정식의 해를 구한다는 것은 결국 방정식을 푼다는 뜻인데요. x + 5 = 8, x2 = 4처럼 변수가 1개인 방정식은 보통 해가 점으로 표현돼요. 하지만 변수를 늘리면 훨씬 다양한 형태의 기하학적 모양을 만들 수 있습니다.
예를 들어 y = x라는 식을 생각해볼게요. 이젠 변수가 1개가 아니라 x와 y로 두 개예요. 이 식의 해들은 (0, 0), (1, 1), (-1, -1) 같이 (x, y)의 순서쌍으로 표시되고 무한한 점들의 집합이라 결국 원점을 지나는 직선이 됩니다. 다시 말해 y = x의 해는 직선을 표현하게 돼요.
비슷한 예시로 2차원 좌표평면 위에 직선의 방정식 y = ax + b, 포물선의 방정식 y = ax2 + bx + c (a≠0), 원의 방정식 x2 + y2 = r2 (r≠0)의 해가 특정한 모양을 만들어요. 이런 식으로 방정식이 직선, 포물선, 원과 연결돼서 기하학과 대수학을 확실히 통합하는 거지요."
Q(인문학자). 변수의 개수가 많아질수록 복잡한 형태의 도형이 만들어지겠네요.
A(수학자). "네, 정확합니다. 보통 데카르트의 좌표평면처럼 x축, y축을 가진 2차원을 생각하는데요. 변수를 늘리지 말라는 법이 없잖아요. 예를 들어서 x2 + y2 + z2 = r2 (r≠0)이라는 식은 3차원 공간의 도형인 구를 표현할 수 있어요. 이렇게 변수를 늘려가다 보면 4차원, 5차원, 100차원, 1만 차원도 생각할 수 있어요.
어떻게 보면 좌표평면이 기하학과 대수학을 단순히 합치는 것에 그치지 않고 발전시켰다고도 볼 수 있어요. 4차원 구를 생각해보면 우리 눈에 보이게 그릴 수는 없지만 변수가 4개인 식을 만들어 개념적으로 나타낼 수는 있지요."
Q(인문학자). 이렇게 대수학과 기하학이 통합된 상황에서 기하학 문제를 푼다는 것은 기하학적 대상을 나타내는 방정식을 연구하는 건가요.
A(수학자). "네, 맞습니다. 하지만 여기서 조심해야 하는 게 있는데요, 단순히 형태만 가지고는 식과 도형이 일대일 대응하지 않는다는 거예요. 2차원 좌표평면 위에 있는 y = x, y = 2x, y = 3x를 생각해볼게요. 이 식들은 서로 다른 식이고 서로 만족하는 해들도 다르죠. 그렇지만 이런 정보를 다 차치하고 그래프의 모양에만 집중해본다면 이 식들은 모두 직선을 표현해요. 따라서 어떤 직선의 식을 쓸지는 문제에 따라서 생각해봐야 해요.
이처럼 일대일대응이 되지 않는다는 문제도 있지만 도형을 해석할 수 있는 방정식을 찾아내는 것도 간단하진 않아요. 제가 평면 위에 어떤 낙서를 그린 다음에 이걸 수식으로 표현하려고 하면 쉽지 않은 것처럼요. 기하학적 대상을 연구하기 위해 어떤 식이 가장 좋은지를 구하는 일이 수학자의 역할 중 하나지요.
그리고 주어진 식을 어떤 공간에 표현하느냐에 따라 기하학적 도형도 다르게 나타나요. 예를 들어 x = 0이라는 식을 생각해볼게요. 1차원 수직선 위에서 이 방정식은 x = 0이라는 하나의 해를 가져요. 그렇지만 2차원 좌표평면 위에서 x = 0은 해가 무수히 많습니다. (0, 0), (0, 1), (0, 2), 이 모두 x = 0을 만족하니까요. 3차원 위에서 생각해보면 x = 0은 평면을 나타내는 식이 되지요. 따라서 대수학을 이용해 기하학을 연구하기 위해선 우리가 연구하고 싶은 기하학적 대상의 정보를 정확히 옮기는 일이 매우 중요하답니다."
○ 세 번째 질문. 대수학과 기하학의 통합에는 어떤 의미가 있는가
Q(인문학자). ‘scientia penitus nova’
데카르트가 대수학과 기하학의 통합을 꿈꾸면서 했던 말이에요. 라틴어인데 이를 해석하면 ‘완전히 새로운 과학’이라는 뜻이지요.
요즘 저는 당시에 데카르트가 이렇게 완전히 새로운 과학을 찾았다고 스스로 확신할 수 있었던 계기에 대해 다시 살펴보고 있습니다. 그 배경을 조금 더 들여다보면 데카르트는 고대 그리스 수학자 파푸스(290~350)의 기하학적 분류부터 연구했다는 걸 알 수 있습니다. 파푸스는 기하학 문제를 크게 세 가지 종류로 나눌 수 있다고 이야기했어요.
첫 번째는 컴퍼스와 눈금 없는 자만을 이용해서 풀 수 있는 작도 문제예요. 두 번째는 입체 문제라고 이름을 붙였는데요. 원뿔을 잘라서 얻을 수 있는 곡선, 즉 원뿔 곡선을 이용해서 풀 수 있는 문제예요. 마지막 세 번째는 앞선 두 방법으로 풀 수가 없는, 훨씬 더 복잡한 곡선이 필요한 문제예요.
데카르트는 이 분류를 보며 진정한 의미에서 기하학적인 곡선이 무엇인지에 대해 탐구했던 것 같습니다. 이로 인해 기하학의 범위는 어디까지인지를 고민하게 됐던 것 같고요. 이런 과정에서 자연스럽게 기하학의 범위를 대수학과 연결할 수 있는 범위까지 확장하고 고대 그리스인이 풀지 못했던 문제를 해결하는 방법을 찾아냈지요. 그래서 대수학과 기하학이 통합된 새로운 패러다임을 완전히 새로운 과학이라고 여긴 것으로 보입니다.
저는 박사님께 마지막으로 이런 질문을 던져보고 싶어요. 한 영역이 다른 영역으로 표현될 수 있다는 건 굉장히 멋진 이야기이지만 그렇게 했을 때 괜히 복잡해지거나 추상적으로만 비치는 등 손해를 보는 부분이 있을 것 같거든요. 그럼에도 불구하고 대수학과 기하학을 통합함으로써 어떤 유익이 있나요.
A(수학자). "오늘 기하학과 대수학의 통합을 이야기하고 있지만 모든 기하학 문제가 대수학으로 풀었을 때 더 편하다거나 반대로 모든 대수학 문제가 기하학으로 풀었을 때 더 쉽다는 건 당연히 아니에요. 오히려 많은 경우 기하학 문제는 기하학으로 대수학 문제는 대수학으로 풀어야 더 편하지요.
그렇지만 기하학과 대수학의 통합이 완전히 새로운 과학이라는 찬사를 받을 정도로 의미가 있었던 이유는 서로 다른 두 분야가 합쳐지면서 두 학문 모두에 생각지 못한 발상의 전환을 일으켰기 때문이에요.
아까 잠깐 2차원에선 원, 3차원에선 구, 4차원에선 구와 비슷한 형태들을 대수학적인 식을 통해서 표현할 수 있다고 이야기했어요. 하지만 기하학의 영역에서는 4차원 구를 생각하지 못했을 것이고 대수학의 영역에서도 마찬가지로 4차원 구를 생각하지 못했겠지요. 왜냐하면 대수학에서는 그냥 x2 + y2 + z2 + w2 = r2이라는 방정식일 뿐이고 기하학에서는 우리가 눈으로 볼 수 있는 1, 2, 3차원 안에 머물러 있었을 테니까요.
그렇지만 기하학적인 대상을 대수학적인 방정식으로 풀다 보니까 x2 + y2 + z2 + w2 = r2이라는 식으로부터 4차원의 구를 생각하게 됐어요. 그러니까 두 영역 모두의 무궁무진한 교집합이 생기게 된 거죠.
효용에 대해서도 말씀을 해주셨는데요. 여러 가지 작도 불가능한 문제가 대수학으로 넘어왔을 때 쉽게 풀리는 경우가 많이 있었어요.
독일 수학자 카를 프리드리히 가우스(1777~1855)가 19살 때 정십칠각형의 작도법을 알아냈다는 유명한 일화가 있는데요. 그는 정십칠각형이 작도 가능한 도형이라는 것을 기하학적 방법이 아니라 대수적인 방법을 통해 증명했어요.
마지막으로 미적분 이야기를 빼놓을 수가 없는데요. 미분은 주로 어떤 그래프와 한 점에서 만나는 접선을 긋고 이 접선의 기울기를 구할 때 적분은 어떤 그래프가 이루는 영역의 넓이를 구할 때 사용하지요. 그런데 기하학에서 생각해보면 임의로 그려놓은 모양의 기울기나 넓이를 구하는 게 사실은 불가능에 가까운 문제거든요. 그렇지만 좌표평면에 표현한 도형을 함수나 방정식으로 나타내다 보니까 미적분을 통해서 한 차원 더 발전해 구할 수 있었지요.
미적분은 단순히 넓이를 구하고 기울기를 구하는 작업을 넘어서 고전 역학 물리의 초석이 되고 세상 자체를 표현하는 언어로 발전했어요. 대수학과 기하학을 통합한 데카르트의 좌표평면으로 또다시 미적분이라는 새로운 발전이 이뤄질 수 있었고 그것만으로도 엄청난 효용이 있었다고 감히 이야기할 수 있을 것 같습니다."
※관련기사
수학동아 7월, [Rethnking] 대수와 기하는 어떤 관계인가.
[김진화 기자 evolution@donga.com]
Copyright © 동아사이언스. 무단전재 및 재배포 금지.