다가올 ‘양자컴퓨터 시대’…인터넷 ‘보안’은 국가안보다[정은진의 기술을 기술하다]

(13) ‘양자’시대를 대하는 자세

일러스트 | 김상민 기자 yellow@kyunghyang.com

기존 컴퓨터, 0과 1로 정보 표현
양자컴퓨터는 ‘큐비트’로 처리
여러번 반복, 가장 좋은 결과 내

지난 10월 정부는 향후 5년간 25조원 이상을 ‘12대 국가전략기술’ 연구·개발에 투자하겠다고 발표했다. 이 12개 기술분야들 중 대중에게 가장 생소한 분야는 ‘양자’가 아닐까 싶다.

■현재 사용하는 컴퓨터는 0 아니면 1

양자컴퓨터를 이해하기 위해서는 기존 컴퓨터를 먼저 이해할 필요가 있다. 기존 컴퓨터는 모든 정보를 0과 1로 표현한다. 1+1=2라는 계산은 컴퓨터 안에서 01+01=10이라는 이진수로 변환되어 이루어진다. 초기 컴퓨터는 이 0과 1의 나열을 진공관으로 표현했고, 매일 진공관이 하나씩 고장 나서 그 진공관을 찾아 교체하느라 하루 중 반나절은 컴퓨터를 쓸 수 없었다.

이렇게 0과 1로 모든 정보를 표현하는 방식의 장점은 계산에 필요한 하드웨어를 아주 작은 공간에 밀집시킬 수 있다는 것이다. CPU의 성능은 최근까지 무어의 법칙을 따라 1~2년마다 2배씩 좋아졌다. 지금 우리가 휴대폰에서 동영상을 매끄럽게 볼 수 있는 것은 빠른 인터넷 덕분이기도 하지만 작은 크기의 CPU로도 높은 연산속도를 낼 수 있게 된 덕도 있다.

하지만 이렇게 0과 1을 기반으로 한 CPU를 사용할 때 시간이 오래 걸리는 계산도 있다. 가장 대표적인 예가 인수분해인데, 15를 보고 15=3×5라는 것을 알기는 쉽지만, 65535를 보고 65535=3×5×17×257로 인수분해하는 일은 쉽지 않다. 15는 2와 3으로만 나눠보면 금방 3×5라는 것을 알 수 있지만, 65535의 경우는 2와 256 사이의 모든 숫자들 혹은 그사이 56개의 모든 소수를 시도해 보고서야 알 수 있다. 인수분해를 하려는 숫자가 커질수록 시도해야 할 숫자들이 늘어나고, 시도해야 할 숫자들이 커질수록 연산에 드는 시간이 길어지기 때문에 인수분해할 숫자가 커지면 인수분해에 드는 시간이 급격히 늘어난다.

■양자컴퓨터는 0과 1이 혼재

양자컴퓨터는 큐비트(qubit)라고 해서 0과 1로 딱 떨어지지 않는 방식으로 정보를 저장하고 처리한다. 복권 당첨 번호 결정에 사용되는 공 뽑는 기계를 생각해보자. 이 안에 0이 그려진 공 아홉 개와 1이 그려진 공 하나가 있다면 기계를 멈추고 공 하나가 나왔을 때 0이 나올 확률은 90%지만, 반드시 0이라고 단정할 수는 없다. 큐비트 하나가 공 뽑는 기계 하나에 해당하고, 기계마다 그 안에 들어있는 0과 1의 개수가 다르다. 이렇게 0인지, 1인지 정해지지 않은 큐비트를 가지고 어떻게 연산을 할 수 있을까?

두 개의 재료가 있고, 이 두 재료를 어떻게 조합하는 것이 가장 좋은 결과를 보여줄지 알아보는 최적화 문제가 있다고 해보자. 재료를 넣으면 1, 넣지 않으면 0이라고 했을 때, 기존의 컴퓨터는 ‘0, 0’ ‘0, 1’ ‘1, 0’ ‘1, 1’ 이 4가지 조합을 각각 하나씩 실험해서 결과를 확인하고, 가장 좋은 결과를 보이는 조합을 선택한다. ‘0, 0’은 두 재료 다 사용하지 않았을 때의 결과로, 기준점이 된다. ‘0, 1’은 두번째 재료만 사용하는 경우, ‘1, 0’은 첫번째 재료만 사용하는 경우, ‘1, 1’은 두 재료 모두 사용하는 경우다.

양자컴퓨터는 같은 문제를 공 뽑는 기계 두 대를 이용해서 해결한다. 이 두 기계는 밖에서 레이저나 자석을 이용해서 공에 쓰여 있는 숫자를 바꿀 수도 있고, 공의 개수를 바꿀 수도 있다. 양자컴퓨터에 사용하는 소프트웨어는 결과의 좋고 나쁨을 어떻게 측정할 것인지를 정하고, 결과값을 바꿀 수 있는 요인들을 지정한다. 그러면 두 기계는 서로에게 영향을 미치면서 결과값을 계속 관측하고, 결과값이 높아지는 방향으로 진행한다. 첫번째 재료만 넣는 것이 가장 좋은 결과가 나온다면 첫번째 기계에 1이 그려진 공이 0보다 더 많고 두번째 기계에 0이 그려진 공이 1보다 더 많은 상태로 바뀌는 것이다. 이런 상태일 때 공을 뽑으면 첫번째 기계에서 1이 나오고 두번째 기계에서 0이 나올 확률이 다른 조합보다 더 높아진다.

기존 컴퓨터와 다르게 한번 기계를 돌려 나온 숫자의 조합이 반드시 가장 좋은 조합이라고 단정적으로 말할 수 없기 때문에 같은 문제를 여러 번 반복해서 풀고, 어느 조합이 가장 많이 나오는지를 확인한다. ‘1, 0’이 최적의 조합일 때 첫번째 기계에서 1이 나올 확률이 99%가 되어도 0이 나올 1%의 가능성이 존재하므로 한번 풀어서 나온 ‘0, 0’이 최적의 조합이라고 단정할 수 없지만, 같은 실험을 반복하다 보면 ‘1, 0’의 조합이 가장 많이 나오기 때문에 이 답에 대한 신뢰도가 높아진다. (반복하는 횟수가 많아질수록 신뢰도가 높아지지만, 어느 정도 반복하고 나면 신뢰도는 거의 늘지 않고, 기존의 컴퓨터에서 모든 조합을 시도하여 얻을 수 있는 100%의 신뢰도에 도달하지는 못한다.)

이 예시에는 4개의 조합을 확인하는 대신 기계 2대를 사용했으므로 큰 성능 차이가 없어 보이지만, 재료 개수가 늘어나면 조합의 개수는 기하급수적으로 늘어난다. 재료가 10개 있으면 고려해야 할 조합은 1024개로 늘어나지만 기계는 10대만 있으면 된다. 재료 20개가 있다면 100만개 이상의 조합을 고려해야 하지만 기계 20대, 즉 20큐비트만 있으면 된다. 위에 언급한 인수분해 문제의 경우, 자파타(Zapata)라는 회사가 2019년에 3-큐비트 양자컴퓨터와 기존 컴퓨터를 조합하는 방식으로 1,099,551,473,989를 인수분해하는 데에 성공했다.

■왜 양자컴퓨터 성능 향상이 어려울까

안정적으로 쓸 ‘큐비트’ 적고
양자컴퓨터 ‘특수 설비’ 필요해
상용화 멀지만 곧 마주할 시대

이렇게 최적화 문제를 푸는 데에 획기적으로 시간을 절약할 수 있는 양자컴퓨터를 왜 널리 사용하지 않고 있을까? 지금 현재 안정적으로 사용할 수 있는 큐비트 숫자는 기존컴퓨터를 능가할 만큼 크지 않고, 양자컴퓨터를 사용하기 위해서는 특수한 설비가 필요하기 때문이다. IBM이나 구글은 초전도 루프(superconducting loop)를 이용해서 양자컴퓨터를 만들고 있는데, 이 경우 온도를 영하 270도 아래로 유지해야 하기 때문에 큰 냉동고 안에서만 사용할 수 있다. 광자(photon)를 이용하는 경우 상온에서도 가능하지만 레이저를 사용해서 광자를 생성하기 때문에 아직까지는 연구실 안에서만 쓸 수 있다.

이런 시설을 갖춘 연구실에서도 양자컴퓨터는 아직 갈 길이 멀다. 큐비트는 연산을 위해 서로에게 영향을 미치기도 하지만, 옆에 있는 큐비트에 의도치 않은 영향을 미친다. 세탁기 위에 올려놓은 바구니가 세탁기 진동 때문에 움직이는 것처럼, 공 뽑는 기계들이 딱 붙어있어서 한쪽의 진동이 다른 쪽 기계 안의 공 움직임에도 영향을 미치는 것과 비슷하다. 이런 의도치 않은 간섭 때문에 결과값에 오류가 발생할 수 있고, 이러한 오류는 큐비트를 더 많이 사용할수록 커지기 때문에 지금 양자컴퓨터 연구는 이런 오류를 보정하기 위한 연구와 적은 수의 큐비트와 기존의 고성능 컴퓨터를 연계해서 사용하는 연구 두 방향으로 모두 진행되고 있다.

■상용화 땐 인터넷 보안 망가진다던데

청와대 홈피 2048비트 RSA 공개키
기존 컴퓨터로 푸는 데 300조년
4099개 큐비트 양자컴퓨터 개발 땐
이론상 10초 만에 인수분해 가능

포브스지는 2021년 암호화된 인터넷 트래픽의 90%는 암호키를 결정하는 과정에 RSA를 사용한다고 보도했다. 이는 보호해야 할 정보를 넣을 가방 열쇠를 만드는 데에 RSA라는 기계를 쓰는 것과 비슷하다. RSA는 비대칭암호화기술로, 공개키와 비밀키가 쌍으로 만들어지고, 공개키를 이용해서 (가방의 자물쇠를 잠가) 정보를 감추면 비밀키를 가지고 있는 사람만 (가방 자물쇠를 열고) 그 정보를 꺼낼 수 있게 되어있다. 공개키는 이름 그대로 누구에게나 알려져 있기 때문에 비밀키를 안전하게 보관하는 것이 중요한데, 공개키를 인수분해할 수 있으면 비밀키를 알아낼 수 있다.

인수분해는 쉬운 연산이다. 그러면 해커가 비밀키를 알아낼 수 있지 않을까? 현재 사용되는 크기의 공개키를 인수분해하는 데에는 천문학적인 시간이 걸린다. 예를 들어 과거 청와대 홈페이지는 2048비트 길이의 RSA 공개키를 사용했는데, 이 정도 길이의 공개키를 기존의 컴퓨터를 이용해서 인수분해하는 데에는 300조년이 걸린다. 물론 여러 대의 컴퓨터를 쓰면 그만큼 더 빨리 할 수 있지만, 컴퓨터 100대를 써도 3조년이고, 100만대를 써도 3억년이다. 전자상거래 웹사이트들이 RSA 공개키를 해커를 포함한 모두에게 공개해도 비밀키는 안전하다고 여기는 이유가 바로 이 천문학적인 숫자에 있다. 기존의 컴퓨터만 가지고 해커가 인수분해를 통해 비밀키를 알아낼 염려는 거의 없다.

하지만 양자컴퓨터의 성능이 크게 발전한 뒤에는 문제가 달라진다. 1994년 MIT 수학과 교수였던 피터 쇼어가 발표한 인수분해 알고리즘을 4099개의 안정된 큐비트로 만든 양자컴퓨터에서 구현하면 10초 만에 2048비트 길이의 RSA 공개키를 인수분해할 수 있다. 2021년에 구글이 발표한 논문에 따르면 노이즈가 많은 200만큐비트가 있으면 8시간 정도 안에 인수분해가 가능하다. 그렇다면 언제 양자컴퓨터가 이만큼 발전할까? 이미 개발되어있는 양자컴퓨터는 어느 정도 성능을 낼까?

■양자컴퓨터의 현재와 미래

구글·IBM 등 성능 향상 나서고
미국선 암호화 알고리즘 공모
한국, 양자내성암호 개발 시범사업
10월엔 ‘12대 국가전략기술’ 발표

컴퓨팅의 새 패러다임 시작되면
최적화 문제 빨리 풀 수 있지만
인터넷 보급 후 ‘해킹’ 등장처럼
범죄 막는 ‘보안기술’ 진화해야

IBM은 매년 꾸준히 양자컴퓨터의 성능을 향상시켜 2025년까지 4000큐비트 이상의 용량을 가진 양자컴퓨터를 개발하는 것을 목표로 하는 로드맵을 2020년에 발표했고, 지난 11월 올해의 목표였던 433큐비트를 달성한 오스프리를 발표하면서 꾸준히 양자컴퓨터 개발에서 선두 그룹을 유지하고 있다. 하지만 오스프리는 아직 큐비트가 늘어날수록 에러도 늘어나는 문제를 해결하지 못했다. 구글은 2019년 53큐비트를 사용한 시카모어 프로세서를 이용해서 ‘양자 슈프리머시’, 즉 양자컴퓨터가 기존 컴퓨터보다 확실하게 더 잘 풀 수 있는 문제가 존재한다는 실험적 증명을 보였다고 주장했다. 구글이 기존 컴퓨터를 이용해서 푼 방식보다 훨씬 빠르게 푼 연구진이 나타나면서 진정한 슈프리머시는 아니라는 반론도 있지만 큐비트의 에러를 낮게 유지하는 데에 큰 성과를 보였다.

현재까지의 성과로 봐서는 RSA에 위협이 될 정도의 양자컴퓨터가 곧 개발될 것으로 보이지는 않는다. 하지만 반드시 일어날 일이고, 그렇기에 국가 안보 차원에서도 대비책이 필요하다. 미국 국립표준기술연구원(NIST)은 2016년부터 학계에 ‘양자 내성’을 갖춘, 즉 양자컴퓨터가 4000큐비트를 넘고 상용화되어도 쉽게 깨지지 않을 암호화 알고리즘을 공모하기 시작했고, 표준 알고리즘 후보를 선정해서 관련 연구자들의 피드백을 받고 있다. 우리 정부도 작년부터 양자내성암호 개발을 포함한 양자암호통신 시범사업을 시행 중이다.

인터넷이라는 기술이 보급되기 전에는 전자상거래가 존재하지 않았다. 전자상거래가 보편화되면서 사람들의 생활이 좀 더 편리해진 반면 고객정보 해킹 등의 범죄도 발생하기 시작했다. 컴퓨팅의 새로운 패러다임인 양자컴퓨터가 보급되면서 예전보다 여러 가지 최적화 문제를 빨리 풀 수 있게 되겠지만, 보안기술도 그만큼 진화해야 한다.

<시리즈 끝>

▶정은진 교수



서울대 전산과학과를 졸업하고 미국 오스틴에 있는 텍사스주립대학에서 전산과학 석·박사 학위를 받았다. 현재 샌프란시스코대학 부교수로 재직 중이다. 분산시스템과 인터넷에서의 보안을 연구했고, 최근에는 게임이론을 이용해서 합리적인 사람들이 블록체인처럼 탈중앙화된 시스템을 안전하게 사용할 수 있게 해주는 방법을 연구하고 있다. 최신 기술의 발전을 가까이 볼 수 있는 실리콘밸리에서 컴퓨터과학을 오래 가르치면서 기술이 사회에 미치는 영향에 대해 깊이 생각하게 되었고, 그 영향력을 선한 방향으로 이끌어가기 위해서는 더 많은 사람들이 기술을 쉽게 이해할 수 있어야 한다고 믿는다.

정은진 교수