양자를 이해하는 3가지 키워드...중첩·얽힘·오류 정정

AI 넘어 세상 바꿀 기술...양자컴퓨터, 넌 누구냐

양자를 이해하는 3가지 키워드

중첩과 얽힘, 그리고 오류 정정

“물체의 초기 상태(위치와 속도)를 알면 미래 상태를 정확하게 예측할 수 있다. 세상은 미리 결정된 법칙(질량 보존, 만유인력 등)에 따라 움직이며, 측정의 정확성은 오직 기술적 한계에 의해서만 제약된다.”

거시 세계를 설명해온 고전물리학의 핵심 논리다. 하지만 원자 같은 아주 작은 입자를 다루는 미시 세계로 시선을 옮겨보자. 고전물리학으로는 설명 안 되는 현상이 펼쳐진다. 일단 입자 위치와 운동량을 정확히 예측할 수 없다. 동시 측정은 사실상 불가능하다. 입자는 여러 상태로 존재하기도, 입자 간 강한 연결 관계가 나타나기도 한다. 그야말로 무질서한 세계다. 양자역학은 이를 정리한 이론이다.

천재 물리학자 리처드 파인만이 “양자역학을 완벽하게 이해하는 사람은 아무도 없다”고 말할 정도로 어려운 개념이다. 그럼에도 이를 이해하고 받아들여 응용하려는 움직임이 있다. 양자역학적 특징을 활용해 개발 중인 양자컴퓨터가 대표적이다. 양자컴퓨터 작동 원리를 알기 위해 양자역학의 핵심 키워드를 알아야 하는 이유다.

첫 번째 키워드는 ① 중첩(Superposition)이다. 입자가 동시에 여러 상태로 존재한다는 의미다. 동전을 예로 들어보자. 고전물리학이 적용된 거시 세계에서 동전은 앞면 혹은 뒷면 중 하나로 결정된다. 앞면인 동시에 뒷면인 상태는 있을 수 없다. 하지만 동전을 양자역학 세계로 옮기면 특이한 현상이 발생한다. 동전이 빙글빙글 돌며 앞면인 동시에 뒷면으로 존재한다. 다만 우리가 이를 측정하려 손을 대는 순간 중첩 상태는 붕괴돼 동전은 앞면 혹은 뒷면 중 하나의 값을 갖는다. 방해만 없다면 양자역학 속 세상은 중첩이 ‘디폴트(필수)’라는 의미다.

중첩을 활용하면 컴퓨터의 병렬 연산이 가능하다. 기존 컴퓨터는 0 또는 1의 상태만 갖는 비트 단위로 구성됐다. 이용자 명령을 받으면 두 가지 숫자를 순차적으로 조합해 계산한다. 최근 멀티코어 등 기술 발전으로 일부 병렬 연산 형태를 갖췄지만 태생적으로 직렬 연산 방식이다.

‘A지역에서 B지역으로 가는 100가지 방법 중 가장 빠른 길을 찾아달라’고 요청했다고 가정하자. 기존 컴퓨터는 숫자를 하나하나 넣으며 연산해 정답을 찾는다. 성능에 따라 속도의 차이만 있을 뿐이다. 하지만 큐비트 단위인 양자컴퓨터에선 순식간에 끝난다. 큐비트는 양자역학적으로 중첩된, 0이면서 동시에 1인 상태다. 단 7개의 큐비트만 갖춘 양자컴퓨터도 2의 7승(乘)가지 연산을 동시 처리할 수 있다. 즉, 문제가 어려워지고 필요한 연산량이 늘어날수록 양자컴퓨터는 기존 컴퓨터 대비 우월한 성능을 보인다.

줄리안 켈리 구글 퀀텀 AI팀 책임자가 ‘양자오류 정정(QEC)’에 대해 발표하고 있다. (구글 퀀텀 AI 제공)

또 다른 키워드는 ② 얽힘(Quantum Entanglement)이다. 얽힘은 두 개 이상 입자가 강하게 연결돼 하나의 입자 상태가 정해지면 다른 입자 상태도 즉시 결정되는 현상이다. 얽힘 상태인 두 입자는 아무리 멀리 떨어져 있어도 연결된다. 이론적으로는 지구에서 달까지 떨어진 거리, 혹은 그 이상도 가능하다.

중첩과 마찬가지로 얽힘도 양자컴퓨터에 적용된 대표적인 양자역학 현상이다. 중첩이 컴퓨터의 병렬 연산을 가능하게 했다면 얽힘은 효율적인 정답 도출을 돕는 식이다.

컴퓨터에 논리 게이트(NOT, AND, OR)가 있듯 양자컴퓨터에도 양자 게이트(단일·다중 게이트)가 있어 얽힘을 제어한다. 게이트는 말 그대로 큐비트 상태를 변환시키는 일종의 알고리즘이다. 예를 들어 다중 게이트 중 하나인 CNOT 게이트(Controlled-NOT 게이트)를 쓰면 하나의 큐비트가 1일 때 다른 큐비트 상태를 0으로 반전시킬 수 있다. 얽힘을 제어하고 활용해 원하는 값을 도출할 수 있다는 의미다.

다만 얽힘은 그야말로 민감하고 예민한 현상이다. 늘 오류 발생 가능성을 지닌다. 얽힘 정도가 조금만 느슨해도 예상과 다른 결괏값이 나올 수 있다. 일명 ③ 양자오류(Quantum Error)다. 이는 양자컴퓨터 개발 과정에서 가장 큰 문제점으로 꼽혔다. 특히 큐비트가 늘어날수록 양자오류 발생 가능성도 높아질 수밖에 없어 해결 불가능한 요소라는 지적이 있었다. 이에 구글 등 빅테크는 ‘양자오류 정정(Quantum Error Correction·QEC)’ 기술을 개발하며 해법을 찾아왔다. 구글은 2023년 2월 네이처지에 QEC 기술 시연에 성공했다는 논문을 발표했다. 큐비트 일부를 처음부터 QEC 용도로 할당하면 큐비트 개수가 늘수록 오히려 오류 발생은 줄어들 것이라는 주장이었다. 일종의 ‘인해전술’이다. 2024년 12월 구글은 ‘윌로우’를 발표하며 이론을 증명했다고 밝혔다. QEC 기술을 활용했더니 큐비트가 늘수록 오류가 줄었고, 이를 기반으로 105큐비트를 구현했다고 강조했다.

양자컴퓨터가 가져올 그늘을 우려하는 시선도 있다. 기존 보안 기술을 무력화할 수 있다는 점이다. 예를 들어 해커들이 양자컴퓨터를 이용해 비트코인 암호를 해독해 훔쳐 갈 가능성이 있다. 미 싱크탱크인 허드슨연구소는 2022년 이런 해킹이 현실화할 경우 가상화폐를 비롯한 금융 시장에서 3조달러(약 4354조원) 이상 손실이 발생하고 심각한 침체로 이어질 수 있다는 경고를 내놨다. 최근 비트코인 가격이 천정부지로 치솟은 만큼 피해 규모는 훨씬 더 커질 우려가 있다. 이런 이유로 구글이 ‘윌로우’를 발표했을 때 비트코인 가격이 급락하기도 했다.

허드슨연구소의 아서 허먼은 “누군가 해킹 개발 능력을 갖추고 가상화폐에 사용하기로 마음먹는다면 폭발을 기다리는 시한폭탄이 될 것”이라고 봤다. 보안 스타트업 큐시큐어의 스킵 산제리는 “은행들은 관련 규정과 방어 메커니즘, 고객 대응 능력 등이 있는 반면, 비트코인은 미 서부 시대와 같다”면서 “비트코인 지갑에서 도난당하더라도 환불받지 못한다”고 밝혔다. 특히 일부 가상화폐 거래소에서 그치지 않고 전체 비트코인 네트워크의 보안과 신뢰성 문제로 이어질 수 있다는 분석이 제기된다.

다만 양자컴퓨터를 이용한 암호 해독이 순식간에 현실화되지는 않을 것으로 보인다. 구글은 “가상화폐에 쓰이는 암호 알고리즘을 깨려면 400만큐비트가 필요하고 적어도 10년이 걸릴 것”이라 밝혔다고 CNBC가 보도했다.

금색 전선이 주렁주렁 달려 마치 샹들리에처럼 보이는 초전도 방식 양자컴퓨터에 쓰이는 극저온 냉각기다. 양자컴퓨터 칩이 중간에 들어가는 형태다. (구글 퀀텀 AI 제공)

[명순영·최창원·반진욱 기자]

[본 기사는 매경이코노미 제2291호 (2025.01.01~2025.01.07일자) 기사입니다]