[역사속 수학이야기](26) 아직도 해결되지 않은 소수의 세계

－소주에 숨겨진 소수의 비밀－

여러분은 어른들이 왜 소주를 한 병 마시고 또 마시고 그러면서 밤이 새도록 여러 병을 마시는지 그 이유를 아는가? 술에 취해서이기도 하겠지만, 소수라는 이상한 수에 그 비밀이 숨겨져 있다. 소주 1병을 따르면 소주잔으로 7잔이 나온다. 그러니 두 사람이 3잔씩 마시면 1잔이 남고, 세 사람이 2잔씩 마시면 1잔이 남는다. 네 사람이 마시면 2잔씩 마시기에는 1잔이 모자란다. 그래서 몇 사람이 마시든 소주가 남거나 모자라서 한 병을 더 시켜야 한다. 한 병을 더 시켜도 또 그런 일이 벌어지니 또 한 병을 더 시켜야 하고, 그래서 밤늦도록 술을 계속해서 마시게 되는 것이다.

7과 같이 1과 그 자신에 의해서만 나누어지는 수를 소수(素數)라고 말한다. 물론 1은 소수가 아니므로, 소수는 약수를 2개 가진다. 약수가 3개 이상인 수는 합성수라고 한다. 0.3과 같은 소수(小數)와 7과 같은 소수(素數)의 발음이 같아서 혼동되므로 소수(素數)를 한때는 솟수라고 말해서 이를 구분하기도 하였다. 소수를 북한에서는 씨수라고 부르고 있다.

소수는 자연수를 연구할 때 매우 중요한 역할을 하기도 하지만, 현재에 와서는 소인수분해 이론과 함께 암호 분야에서 중요하게 사용된다. 소수는 무수히 많고 찾아내기가 여간 어려운 게 아니어서 암호로 쓰기에 안성맞춤이기 때문이다. 또한 소주의 경우처럼 판매 전략으로도 사용된다. 6잔이나 8잔이 나오는 소주병을 만들어내면 사람들이 일찍 술자리를 끝내버리게 될 것이기 때문이다.

소수에 대한 연구는 아주 오래 되었다. 소수가 얼마나 많은지에 대한 가장 오래 된 증명은 기원전 300년 경에 살았던 고대 그리스 수학자인 유클리드일 것이다. 그는 소수가 무수히 많다는 것을 증명하였다. 18세기의 수학자인 오일러도 소수가 무수히 많이 있다는 것을 유클리드와 다른 방식으로 증명하였다. 특히, 오일러는 소수를 만들어내는 공식 을 만들어 내기도 하였는데, 그가 만든 공식의 에 자연수를 대입하면 소수가 만들어진다. 예를 들어, 0, 1, 2, 3을 대입하면 각각 41, 43, 47, 53이 되는데, 이것은 모두 소수이다. 그러나 40을 대입하면 소수가 안 된다. 이와 같이 소수 만드는 공식을 만들어내려는 노력이 많이 있었으나, 오일러의 제자인 수학자 르장드르가 항상 소수를 만들어내는 공식은 없다는 것을 증명한 후 그런 노력을 사라지게 되었다.

그리스의 수학자인 에라토스테네스(기원전 276년-194년)는 소수를 찾는 방법을 생각해 내었다. 그 방법은 다음과 같다.

① 먼저, 2부터 시작하여 찾고자 하는 범위의 자연수를 순서대로 나열한다. ② 2를 남겨 두고, 그 외의 2의 배수를 지워나간다. ③ 남은 수 중 2 다음 수인 3을 남기고 그 뒤의 3의 배수를 모두 지운다.

④ 남은 수 중 3 다음 수인 5를 남기고 그 뒤의 5의 배수를 모두 지운다. 이런 일을 반복하여 마지막까지 지우면, 남는 수들이 모두 소수가 된다.

이런 방법을 에라토스테네스의 체라고 부르는데, 이 방법을 컴퓨터를 활용하면 많은 소수를 비교적 쉽게 찾아낼 수 있다. 그러나 아직도 에라토스테네스의 체를 뛰어넘는 우수한 체는 발견되지 않았다.

그런데, 여기서 2와 3, 5와 7, 11과 13 등과 같이 차가 2가 되는 소수들이 있다. 이런 소수를 쌍둥이 소수라고 하는데, 유클리드가 기원전 300년경에 쌍둥이 소수는 무수히 많이 있다고 말하였지만, 아직도 이것은 증명되지 않았다.

프랑스 수도사인 메르센(1588-1648)은 틈틈이 큰 소수를 찾아 나섰는데, 그는 어떤 소수들은 2를 여러 번 곱한 다음 1을 뺀 것과 같음을 알고, 메르센 소수라는 것을 만들어 내었다. 즉, 2를 여러 번 곱한 것에서 1을 뺀 것이 소수일 때 이를 메르센 소수라고 한다. 예를 들어, 3, 7, 31은 모두 메르센 소수이다.

이 후 많은 사람들이 메르센 소수를 찾으려고 노력하였는데, 2006년에는 쿠퍼와 본 박사 팀이 수백 대의 컴퓨터를 연결하여 980만 8358자리 수인 메르센 소수를 발견하였다.

20세기의 수학자 울람은 다음 그림처럼 1부터 시작하여 시계 반대 방향으로 수를 배열한 다음 소수를 찾아보고, 소수들이 대각선 위에 배열되어 있음을 발견하였다. 41부터 수를 배열하면 이런 현상이 더욱 두드러지게 나타나는데, 그 이유를 아직 밝히지 못하고 있다.

수학자 골드바흐(1690-1764)가 1742년에 오일러에게 "2보다 큰 자연수는 세 소수의 합으로 나타낼 수 있다."고 편지를 썼는데, 이것은 잘못이다. 그래서 오일러는 이를 수정하여 "2보다 큰 모든 짝수는 두 개의 소수의 합으로 나타낼 수 있다."고 하였는데, 이를 골드바흐의 추측이라고 부른다. 예를 들어, 4=2+2, 6=3+3, 8=3+5, 10=3+7=5+5와 같이 2보다 큰 짝수를 두 소수의 합으로 나타낼 수 있다. 그러나 '모든' 짝수에 대해서 이런 일이 가능한지는 아직까지 증명되지 않았다.

수학자들의 이와 같은 노력을 보면 흡사 원주율 파이의 값을 사냥하는 것과 같은 느낌을 받게 된다. 수학자들이 소수의 성질이나 규칙, 큰 소수를 찾으려고 노력하는 것은 마찬가지로 상금을 받기 위해서일 수도 있다. 1000만 자리 이상의 메르센 소수를 발견하면 10만 달러의 상금을 받을 수 있기 때문이다. 또, 국가 발전과 암호에 이용하기 위해서일 수도 있다. 그러나 수학자들의 욕심 없는 단순한 호기심 탓도 클 것이다. 소수는 아주 단순하면서도 수학자들의 자존심을 상하게 하는 고약스런 대상이기 때문이다. 그렇지만, 아무 데도 쓸데없는 것 같은 이런 호기심과 이런 열정은 무의미한 것이 아니라 수학의 발달에 그리고 더 나아가서 인류 문명의 발달에 크게 기여하는 것임은 분명하다. 소수의 세계에서는 쌍둥이 소수나 골드바흐의 추측 등 아직도 해결되지 않고 여러분의 손길을 기다리는 문제가 여러 개 있다. 여러분이 한 번 시도해 보는 것은 어떨까?

〈강문봉 교수/ 경인교대 수학교육과〉

- 대한민국 희망언론! 경향신문, 구독신청(http://smile.khan.co.kr) -

ⓒ 경향신문 & 경향닷컴(www.khan.co.kr), 무단전재 및 재배포 금지

〈경향닷컴은 한국온라인신문협회(www.kona.or.kr)의 디지털뉴스이용규칙에 따른 저작권을 행사합니다.〉