KAIST "양자 연산 검증·최적화…기술 확장성 열어"

복잡한 다중 광학 모드 양자 연산을 마치 'CT'로 촬영하듯 훤히 들여다보며 연산을 분석해 최적화하는 기술이 국내에서 개발됐다. 이 기술은 차세대 양자컴퓨팅과 양자통신 기술 발전에 기여할 것으로 기대된다.

KAIST는 물리학과 라영식 교수 연구팀이 양자컴퓨터 내부에서 일어나는 다중 광학 모드 양자 연산의 특성을 신속·정확하게 파악할 수 있는 '양자 연산 토모그래피(Quantum Process Tomography)' 기술을 개발했다고 17일 밝혔다.

(왼쪽부터) KAIST 물리학과 곽근희 석박통합과정, 라영식 교수, 노찬 박사후 연구원, 윤영도 석박통합과정 (왼쪽 위) Imperial College London 김명식 교수. KAIST 제공

토모그래피는 의료용 CT처럼 보이지 않는 내부 구조를 다양한 데이터로 복원하는 기술이다. 양자컴퓨팅에서도 여러 실험 데이터로 양자 연산 내부의 작동 원리를 재구성하는 기술이 필수적이다.

양자컴퓨터가 기존 컴퓨터보다 월등한 성능을 내려면 동시에 조작할 수 있는 양자 단위(큐빗 또는 모드)의 수가 많아야 한다.

하지만 큐빗 또는 광학 모드의 수가 늘어날수록 토모그래피에 필요한 작업량이 기하급수적으로 늘어나 기존 기술로는 5개의 광학 모드를 분석하는 것조차 어려웠다.

이와 달리 연구팀이 개발한 기술은 양자 연산 내부에서 이뤄지는 과정을 CT 촬영처럼 명확하게 그려낼 수 있다.

이를 위해 연구팀은 비선형 광학 과정(nonlinear optical process)을 정밀하게 나타내는 새로운 수학적 표현을 도입했다.

양자컴퓨터 안에서는 여러 개의 빛 신호가 서로 영향을 주며 매우 복잡하게 얽혀 움직인다. 수학적 표현은 빛이 서로 영향을 주고받으며 변하는 복잡한 양자 상태를 빛이 얼마나 증폭되고 어떻게 변했는지에 대한 '증폭 행렬(Amplification matrix)'과 외부 환경 때문에 생긴 잡음이나 손실이 얼마나 섞였는지에 대한 '잡음 행렬(Noise matrix)'을 분석해 나타낸다.

이 방식은 빛이 본래 가진 양자 특성 변화(이상적인 변화)와 현실 세계에서 피할 수 없는 잡음(비이상적인 변화)을 별개로 또는 동시에 정확하게 확인할 수 있는 '양자 상태 지도'를 만들어 양자컴퓨터 동작을 보다 현실적으로 규명할 수 있다.

특히 연구팀은 여러 종류의 '빛 신호(양자상태)'를 입력하고, 해당 결과가 어떻게 바뀌었는지를 정밀하게 관찰했다. 그리고 모아진 데이터를 가장 정확한 방식으로 설명해주는 통계 기법(최대우도추정)으로 '실제 내부에서 어떤 연산이 일어났는지'를 역으로 추적했다.

이 결과 세계 최초로 16개의 광학 모드(빛 신호)가 서로 얽혀 작동하는 대규모 양자 연산을 실험적으로 규명하는 데 성공했다. 모드가 조금만 늘어나도 필요한 분석 양이 폭발적으로 증가해 사실상 5개까지만 분석이 가능했던 기존 방식의 한계를 뛰어넘은 것이다. 필요한 계산량을 크게 줄여 가능했던 결과다.

라 교수는 "이번 연구는 양자컴퓨팅의 필수 기반기술인 양자 연산 토모그래피의 효율을 획기적으로 높였다는 점에서 의미를 갖는다"며 "확보한 기술은 향후 양자컴퓨팅·양자통신·양자 센싱 등 다양한 양자 기술의 확장성과 신뢰성을 높이는 데 기여할 것"이라고 말했다.

한편 이번 연구에는 물리학과 곽근희 석박사통합과정 학생이 제1 저자로 참여하고 노찬 박사후연구원, 윤영도 석박사통합과정 학생, 임페리얼 칼리지 런던(Imperial College London) 김명식 교수가 공동 저자로 참여했다.

연구 성과(논문)는 지난 11일 국제 학술지 `네이처 포토닉스(Nature Photonics)' 온라인판으로 정식 출판됐다.

대전=정일웅 기자 jiw3061@asiae.co.kr