[박건형의 닥터 사이언스] 엔비디아 엔지니어가 GPU로 쓴 수학의 새로운 역사

17세기 수학자가 제안한 메르센 소수, 인터넷으로 지금도 탐색 중
가장 큰 메르센 소수 기록 경신, 초당 한 자리씩 읽으면 475일 걸려
수학자 아닌 엔지니어가 세계 17국 연결한 GPU 수퍼컴 활용해 찾아

일러스트=이철원

신학자 마랭 메르센(1588~1648)은 프랑스의 레오나르도 다빈치였다. 수학, 물리학, 철학을 넘나들며 위대한 업적을 남겼다. 메르센은 수도원에 페르마, 데카르트, 갈릴레이 같은 학자를 모아 정기 토론회를 열었다. 이 모임은 파리 과학 아카데미로 발전했다. 메르센은 정보 교류를 위한 책자도 만들었는데 사이언스, 네이처 같은 과학 학술지의 시초가 됐다. 학회와 학술지라는 과학 시스템의 근간을 메르센이 세웠다.

메르센은 소수(素數·prime number)에 골몰했다. 소수는 2, 3, 5, 7, 11 등 1과 자신으로만 나누어 떨어지는 수를 뜻한다. 4는 2로, 6은 2와 3으로도 나눠지기 때문에 소수가 아닌 식이다. 소수를 제외한 모든 수는 소수의 곱으로 표시할 수 있어 수학자들은 소수를 ‘수의 원자’라고 부른다. 기원전 유클리드가 ‘소수 수가 무한하다’는 것을 증명한 이후 수많은 학자들이 소수에 매달렸지만, 소수를 만들어내거나 판별하는 공식은 아직 없다. 새 소수를 찾는 것조차 쉽지 않다. 어떤 수가 소수인지 확인하려면 1이 아닌 다른 숫자의 곱으로 나누어 떨어지지 않는다는 것을 증명해야 하는데, 모든 수를 곱해보는 것 이외엔 방법이 없다. 당연히 수가 커질수록 난도는 기하급수적으로 높아진다. 리만 가설 같은 수학 최고의 난제(難題) 상당수가 소수와 연결돼 있다.

메르센은 3, 7, 31처럼 2의 n승에서 1을 뺀 숫자 가운데 소수가 유독 많다는 사실에 집착했고 특별한 규칙을 찾고자 했다. 오늘날 ‘2의 n승-1′에 해당하는 수를 메르센 수, 이 가운데 소수를 메르센 소수라 부른다. 메르센은 꿈을 이루지 못했지만 그의 방식으로 소수를 찾는 노력은 지금도 계속된다. 무작정 거대 소수를 찾는 것보다 메르센 수 가운데 소수를 찾는 것이 훨씬 확률이 높기 때문이다.

1986년 국제 모임 ‘인터넷 메르센 소수 찾기(GIMPS)’가 설립됐다. 탐색할 소수의 자릿수가 커지면서 사람의 계산이 불가능해진 만큼 인터넷으로 컴퓨터를 연결해 소수를 찾자는 취지였다. 누구나 PC를 켜고 GIMPS 프로그램을 다운받아 실행시키면 된다. GIMPS는 21일 “2의 1억3627만9841승에서 1을 뺀 수가 새 메르센 소수로 확인됐다”고 밝혔다. 4100만 자릿수가 넘는 숫자로서 2018년 발견된 51번째 메르센 소수보다 1600만 자릿수 많고 1초에 한 자리씩 읽으면 다 읽는 데 475일이 걸린다.

GIMPS 발표가 특별한 화제를 모은 것은 소수를 찾은 루크 듀랑이 수학자가 아닐뿐더러, 그의 방식이 소수 탐색의 미래를 바꿀 가능성이 높기 때문이다. 엔비디아에서 그래픽 처리 장치(GPU) 개발자로 일했던 듀랑은 빅테크 데이터센터가 풀가동되지 않는 점에 주목했다. 그는 지난해 17국 24개 데이터센터의 유휴 GPU 수천 개를 클라우드로 연결해 수퍼컴퓨터를 구축했다. 순차적으로 정보를 처리하는 중앙 처리 장치(CPU)보다 대량의 정보를 동시에 처리하는 GPU가 소수 탐색에 유리하다는 듀랑의 생각은 옳았다. GIMPS는 “회원들이 일평균 300개의 결과(특정 메르센 수가 소수이거나 소수가 아니라는 답)를 보내는데, 듀랑 참여 이후 3500건으로 늘었다”면서 “GIMPS에서 CPU 이외의 방식을 쓴 첫 사례”라고 했다.

GIMPS는 새 메르센 소수를 발견하면 3000달러의 상금을 주는데, 듀랑은 GPU 수퍼컴퓨터 활용에 200만달러를 썼다. 경제적으로만 따지면 이런 손해가 없다. GIMPS 설립자 조지 월트먼은 “이렇게 거대한 수는 당장은 쓸모가 없다”면서 “지금으로서는 희귀하고 아름다운 물건(새 소수)을 수집하려는 수학 괴짜들의 엔터테인먼트일 뿐”이라고 했다. 다만 미래에도 소수 찾기가 엔터테인먼트로 남을지는 알 수 없다.

수천 년간 소수 탐색은 간결한 수의 법칙을 찾으려는 수학자들의 쓸데없는 집착으로 여겨졌다. 하지만 1977년 MIT의 리베스트·샤미르·애들먼이 수백 자릿수 소수로 암호화 기술을 개발했다. 인터넷과 모바일 세계의 표준인 암호화 알고리즘 ‘RSA 암호’가 이들의 이름 앞 글자를 땄다. 소수를 연구하던 옛 수학자들이 인터넷 뱅킹과 전자상거래를 내다봤을 리 없다. 소수 탐색과 연구를 포기하지 않는 사람들이 있다면 우리는 소수가 만들어낼 또 다른 문명의 시대를 살게 될 수도 있다.