오류율 0.079%…양자컴 ‘헬리오스’, 속도·정확도 모두 잡았다

곽노필의 미래창
퀀티넘, 차세대 ‘헬리오스’ 공개
높은 정확도로 슈퍼컴 연산 압도

퀀티넘의 양자컴퓨팅 헬리오스 칩. 미세한 전자기장을 생성해 칩 위에 떠 있는 단일 원자 이온을 포획하고, 이를 연산에 사용한다. 퀀티넘 제공

기존 슈퍼컴을 뛰어넘는 연산 속도와 함께 고도의 정확도까지 갖춘 양자컴퓨터가 탄생했다.

그동안 구글 등이 개발한 양자컴퓨터가 슈퍼컴퓨터 성능을 뛰어넘는 양자 우위 상태를 구현했으나 오류율이 컸던 반면, 이번에 개발된 양자컴퓨터는 고도의 정확도로 기존 단점을 극복했다.

양자컴퓨터 개발 기업인 미국의 퀀티넘(Quantinuum)은 오류율 0.079%라는 역대 가장 높은 정확도로 양자 우위를 구현한 98큐비트 크기의 대규모 양자컴퓨터 ‘헬리오스(Helios)’를 개발해 18일 국제학술지 네이처에 발표했다. 퀀티넘은 지난해 11월 헬리오스 개발 사실을 공표했으나, 이번에 전문가들의 엄격한 검증을 거친 논문을 통해 개발 성과를 정식으로 인정받게 됐다.

양자 컴퓨터는 0 또는 1만 나타낼 수 있는 고전 비트 대신, 0과 1을 동시에 표현할 수 있는 양자적 특성인 '큐비트(Qubit)'를 활용한다. 큐비트를 이용하면 0과 1이 공존하는 양자 중첩 현상 덕분에 큐비트 수가 늘어날수록 컴퓨터가 동시에 다룰 수 있는 정보의 가짓수가 기하급수적으로 증가해, 기존 슈퍼컴퓨터를 압도하는 고속 연산을 수행할 수 있다.

양자 컴퓨터는 어떤 방식으로 큐비트 상태를 만들어 유지하느냐에 따라 초전도 방식, 트랩 이온 방식, 중성 원자 방식, 광자 방식 등으로 나뉜다.

구글, 아이비엠 등 대다수 개발 업체들은 초전도 방식을 채택하고 있다. 초전도 방식은 절대 온도(−273도)에 가까운 극저온에서 전기저항이 0이 되는 초전도 현상을 이용해 인공적인 전자 회로를 만들고, 그 내부의 전류 흐름을 큐비트로 사용한다. 이 방식은 큐비트 수를 늘리는 데는 유리하지만 규모가 커질수록 오류율이 높아지는 단점이 있다.

퀀티넘의 헬리오스 양자 컴퓨터 계산에 사용되는 98개의 단일 원자(원자 이온)의 실제 이미지. 원자 이온은 절대 영도보다 아주 미세하게 높은 온도에서 정밀하게 제어된다. 퀀티넘 제공

바륨 이온과 가시광선 레이저로 오류 줄여

반면 퀀티넘의 양자컴퓨터는 트랩 이온(Trapped-ion) 방식이다. 이 방식은 전하를 띤 원자(이온)를 전자기장 공간에 띄워 큐비트로 사용한다. 자연계에 존재하는 원자를 그대로 사용하기 때문에 큐비트의 균일성과 안정성이 매우 뛰어나다는 장점이 있다. 공중에 떠 있는 이온들에 미세한 레이저를 쏘아 정보를 입력하고 연산을 수행한다. 대신 속도가 느리고 큐비트 수를 늘리기가 어렵다.

퀀티넘 연구진은 이 문제를 해결하기 위해 ‘137Ba(바륨 이온)’이라는 새로운 카드를 꺼내 들었다. 기존 이온 트랩 방식이 다루기 까다로운 자외선 레이저를 써야 했던 것과 달리, 바륨 이온은 안정적인 가시광선 영역의 레이저로 제어가 가능하다. 덕분에 레이저의 미세한 흔들림을 잡아내며 오류를 획기적으로 줄일 수 있었다. 여기에 냉각 전용의 ‘171Yb+(이터븀 이온)’을 함께 가두어, 연산 중 발생하는 열을 실시간으로 식히며 양자 상태를 유지하도록 했다.

하드웨어 구조 역시 혁신했다. 이온을 연산 영역으로 이동시킬 때 기존의 ‘외길’ 방식에서 사방으로 연결된 ‘교차로’ 방식으로 바꿔 연산 작업의 병목 현상을 없애고 효율을 높였다. 김태현 서울대 교수(컴퓨터공학)는 “이온을 자유롭게 이동시키는 교차로 구조는 스케일업에 유리하다”며 “이를 검증함으로써 향후 2차원 격자형 이온트랩 양자컴퓨터로 확장할 수 있는 기술을 확인시켜줬다는 데 의의가 크다”고 말했다.

현장에 설치되는 헬리오스 양자컴퓨터 시스템 조감도. 퀀티넘 제공

훨씬 저렴한 방식...상용화 가까워져

그 결과, 양자 연산의 핵심 척도인 '2큐비트 게이트'에서 평균 99.921%(오류율 0.079%)라는 경이적인 충실도(정확도)를 기록했다. 트랩 이온 방식의 양자 컴퓨터 중 사상 최대 규모이면서 최고 수준의 성능을 동시에 이뤄낸 것이다.

연구진은 구글이 했던 것과 똑같은 ‘무작위 회로 샘플링’(RCS) 방식으로 시험한 결과, 헬리오스가 세계 최고 성능의 슈퍼컴퓨터를 뛰어넘는 연산을 성공적으로 수행해 냈다고 밝혔다.

김기환 기초과학연구원(IBS) 트랩이온 양자과학 연구단장은 “이번 연구는 양자 우위를 논란의 여지없이 달성해, 양자 시스템이 특정 문제에서 고전 컴퓨터를 넘어설 수 있음을 훨씬 설득력 있게 보여줬다”고 평가했다.

권석준 성균관대 교수(반도체융합공학)는 “56큐비트였던 기존 양자컴 H2보다 큐비트 수를 거의 두 배 늘리면서 정확도까지 개선했다는 점이 헬리오스의 핵심”이라며 “자외선을 사용한 기존의 다른 이온 트랩 방식에 비해 바륨 이온 방식은 가시광선-근적외선 영역을 사용할 수 있기 때문에, 훨씬 저렴하고 상업화에 가까워졌다”고 말했다.

미국 듀크대 크리스탈 노엘 교수는 네이처에 게재한 논평에서 “지속적인 엔지니어링 과제들이 남아있지만, 이번 성과는 트랩 이온 방식이 대규모 양자 컴퓨팅으로 나아가기 위해 반드시 거쳐야 할 필수적인 도약을 이뤄냈다”고 평가했다.

국내 전문가들은 한국의 반도체 제조 역량이 양자컴퓨터 공급망에서 중요한 역할을 할 수 있다고 말한다. 삼성전자 제공

한국 반도체 제조 역량, 양자컴에서도 중요한 역할 가능

국내 전문가들은 양자 컴퓨터의 원천 기술 연구가 뒤처져 있는 한국의 경우, 삼성전자나 에스케이하이닉스 등이 보유한 세계 최고 수준의 반도체 제조 역량과 시설을 이용하면 앞으로 양자컴퓨터 공급망에서 중요한 위치를 차지할 수 있다고 강조했다.

트랩이온 방식의 양자컴퓨터가 큐비트 수를 수백, 수백만개로 늘리려면, 이온들을 평면상에서 자유자재로 이동시키고 제어할 수 있는 복잡한 회로가 필요하기 때문이다. 복잡한 교차로와 수많은 전극(표면 전극 트랩)을 정밀하게 구현하는 유일한 방법이 바로 미세가공 기술을 활용한 반도체 칩 공정이다.

김태현 교수는 “최근 아이온큐가 반도체 파운드리 기업을 인수하는 등 칩 제조에 관심을 보이고 있고 퀀티넘 역시 조만간 자체적인 팹을 만들 가능성이 있다”며 “핵심 기술이 칩 제조로 넘어가고 있다고 볼 수 있다”고 말했다.

권석준 교수는 “한국은 하드웨어는 서구와 제휴하되 일부는 자체 개발하는 투트랙을 취하는 것이 현실적 방안”이라며 “한국은 반도체 기반이 강하므로, 이를 레버리지로 활용하면 한국이 단순 사용자가 아니라 공급망의 핵심으로 올라설 여지가 있다”고 말했다.

*논문 정보

A 98-qubit trapped-ion quantum computer with all-to-all connectivity. Nature (2026). https://doi.org/10.1038/s41586-026-10676-4

곽노필 선임기자 nopil@hani.co.kr