엔비디아, 세계 첫 양자 AI 모델 ‘이징’ 공개… “양자 컴퓨터의 윈도우 탄생?”

불안정한 큐비트의 한계 극복… 보정·정정 자동화로 연산 안정성 확보
글로벌 연구기관 및 연세대 도입… 젠슨 황 “AI가 양자 시스템의 OS 될 것”

엔비디아가 양자 컴퓨팅의 실용화를 앞당기기 위한 개방형 양자 인공지능(AI) 모델군인 ‘이징’(Ising)을 15일(현지시간) 전격 공개했다. 이번 발표는 불안정한 양자 시스템을 AI 기술로 통제하여 상용화 수준의 연산 능력을 확보하려는 시도로 풀이된다.

젠슨 황 엔비디아 최고경영자(CEO)는 이번 신제품에 대해 “AI는 양자 컴퓨팅을 실용화하는 데 필수적인 요소”라고 정의하며, “이징을 통해 AI는 양자 기계의 운영체제(OS)가 되어 불안정한 큐비트를 확장 가능하고 신뢰할 수 있는 양자-GPU 시스템으로 전환한다”고 강조했다.

양자 연산의 기본 단위인 큐비트는 0과 1의 상태를 동시에 가질 수 있는 중첩 특성을 지니지만, 외부 환경에 극도로 민감해 오류가 잦다는 치명적인 약점이 있다. 이징 모델은 이러한 큐비트의 상태를 실시간으로 감시하고 보정 및 정정함으로써 큐비트 수를 늘리더라도 대규모 연산을 안정적으로 수행할 수 있도록 돕는다. 모델명은 물리적 복합 시스템을 수학적으로 단순화한 ‘이징 모형’에서 차용했다.

이징 제품군은 크게 ‘양자 프로세서 보정’과 ‘양자 오류 정정’이라는 두 가지 핵심 난제 해결에 집중한다. 보정 모델은 측정 데이터 해석 작업을 자동화해 기존에 수일이 걸리던 프로세스를 단 몇 시간으로 단축시킨다. 오류 정정 모델 역시 현재의 표준 모델과 비교해 2.5배 빠른 속도와 3배 높은 정확도를 구현했다는 것이 엔비디아 측의 설명이다.

해당 모델들은 이미 전 세계 주요 연구 기관 및 기업 현장에 투입된 상태다. 이징 보정 모델은 아이온큐, 아톰 컴퓨팅, 하버드 대학교 등에서 활용 중이며, 양자 오류 정정 모델은 시카고대, 코넬대 등과 더불어 한국의 연세대학교 등에서도 도입해 사용하고 있다.

과거 젠슨 황 CEO는 2024년 초 CES에서 실용적인 양자 컴퓨터 등장까지 20년이 소요될 것이라고 언급해 관련 업계의 주가 폭락을 야기한 바 있다. 이후 그는 “양자 기업이 상장된 줄 몰랐다”며 사과와 함께 “기술 성숙 측면에서 20년은 긴 시간이 아니다”라고 해명했으나, 이번 이징 모델 출시를 통해 양자 컴퓨팅 시장에 대한 영향력을 본격적으로 확대하려는 행보를 보이고 있다.

엔비디아. 로이터=연합뉴스

팽동현 기자 dhp@dt.co.kr