1초에 10만개 연산 실행…연세대, IBM 최신 양자컴 '나이트호크' 도입

"난치병 연구·국내 벤처 지원"

미국 IBM의 퀀텀 나이트호크 프로세서. IBM 제공

연세대가 인천 송도 국제캠퍼스에 미국 IBM의 최신 양자컴퓨터 칩을 도입했다. 전세계 대학이나 IBM 고객사로서는 최초다. 일본 슈퍼컴퓨터와 연계한 난치병 치료 연구, 양자 인재 양성과 국내 벤처 지원 등 인프라 활용도 확대한다.

4일 연세대 국제캠퍼스 양자컴퓨팅센터에서 열린 '차세대 양자컴퓨팅 플랫폼 가동식'을 열고 기존 양자컴퓨터를 458큐비트급 양자프로세서(QPU)인 'IBM 나이트호크 R2(이하 나이트호크)'로 업그레이드했다고 밝혔다.

양자컴퓨터는 기존 컴퓨터로는 해결이 불가능한 유형의 문제를 풀 수 있는 전략기술이다. 양자 현상을 이용한 정보처리 단위인 '큐비트'로 계산을 수행한다. 큐비트의 물리적 형태는 구동 방식에 따라 다양하다. IBM 양자컴퓨터는 초전도 전자회로 기반이다. 극저온에서 저항 없이 흐르는 초전도 전류에 마이크로파를 가해 생기는 전류의 양자중첩 상태를 활용해 큐비트를 구현한다.

연세대는 2024년 세계 대학 중 두 번째로 IBM 양자컴퓨터 '퀀텀 시스템 원'을 도입하고 127큐비트급 양자프로세서(QPU)인 '이글(Eagle)'을 도입한 바 있다.

인천 송도 연세대 국제캠퍼스에 설치된 양자컴퓨터 'IBM 퀀텀 시스템 원'. 연세대 제공

제리 차우 IBM 양자중심슈퍼컴퓨팅 최고기술책임자(CTO)는 "나이트호크를 통해 연세대 IBM 양자컴퓨터가 초당 10만개 이상의 연산 회로를 실행할 수 있다"며 "직전 모델인 '헤론(Heron)' 대비 25배 높은 회로 처리량"이라고 설명했다. 

나이트호크는 물리적으로 구현된 큐비트가 458개로 사용자가 직접 프로그램을 작성해 연산에 활용할 수 있는 프로그래머블 큐비트는 120개다. 2큐비트 게이트 기준 연산 정확도는 약 99.7%로 연산 1000번 중 오류가 3번 발생하는 수준이다. IBM은 프로그래머블 큐비트 기준으로 2027년 500개, 2028년 1000개 이상을 달성한 다음 2029년에는 오류를 극복한 양자컴퓨터 구현을 목표로 제시했다.

연세대는 IBM 양자컴퓨터를 바탕으로 일본 이화학연구소(RIKEN) 협력해 난치병인 '아급성 괴사성 뇌척수염(리 증후군, Leigh syndrome)' 치료 연구에 나선다. 리 증후군은 세포 내 에너지 생성 기관인 미토콘드리아의 기능 이상으로 중추신경계가 퇴행하는 희귀 유전성 신경대사질환이다.

일본 고베에 있는 슈퍼컴퓨터 후가쿠(Fugaku)를 연결해 고전컴퓨터와 양자컴퓨터의 장점을 결합한 하이브리드 계산을 수행하는 것이 주요 연구 방향이다. 신약 산업의 주요 병목으로 지목되는 복잡한 계산 단계를 가속하는 전략이다.

정재호 연세대 양자사업단장은 "바이오 신약 분야의 난제뿐만 아니라 우주, 기후변화, 에너지 위기 그리고 인공지능(AI) 시대의 많은 문제를 해결하는 다양한 용도로 사용하는 것이 목표"라고 설명했다.

연세대는 과학기술정보통신부, 산업통상자원부, 보건복지부 3개 부처에서 양자컴퓨팅 기반 양자이득, 양자컴퓨터 산업혁신 기반 구축사업, 양자컴퓨터를 활용한 신약 개발 등의 과제를 수행하고 있다.

정 단장은 "IBM 양자컴퓨터를 바탕으로 지난 2년 동안 연간 2000여명씩 교육을 받았고 관련 논문은 100편 넘게 발행됐다"며 "또 한국과학기술연구원(KIST)과 함께 국내 벤처의 양자컴퓨터 사용 수요를 해결하기 위한 바우처 사업을 공동으로 진행하고 있다"고 설명했다.

정 단장은 이번 양자컴퓨터 업그레이드 계기에 대해 올해 남극에 중성미자 관측 장비를 구축한 과학자가 올해 노벨 물리학살을 수상한 사례를 언급하며 "노벨 과학상을 받으려면 무엇이 필요한가 생각했다"고 말했다.

이어 "우리가 난제를 풀기 위해 접근 가능한 자원이 있다면 대학은 확보해야 한다고 생각한다"며 "대학에서 연구하고 교육하는 교수들을 위해 대학 행정부가 당연히 해야 되는 일"이라고 말했다. 이번 업그레이드는 2년 전 첫 설치 이후 후속 조치로 업그레이드 자체에 추가 비용이 들지는 않았다는 설명이다.

정 단장은 "최고 수준의 양자 인프라를 활용해 차세대 전문 인재를 양성하고 바이오를 비롯한 산업계 및 연구 기관과의 긴밀한 협력을 통해 인류의 난제를 해결하는 과학적 혁신을 주도해 나가겠다"고 밝혔다.

연세대는 11월 2일부터 10일까지 글로벌 양자과학 행사인 '연세퀀텀위크 2026(Yonsei Quantum Week 2026)'을 개최한다.

4일부터 6일까지 열리는 연세 퀀텀 국제 컨퍼런스에서는 국내외 양자 분야 연구자들이 최신 연구 성과를 발표한다. IBM, 디웨이브(D-Wave), 퀀티넘(Quantinuum), IQM, 파스칼(Pasqal), 콴델라(Quandela), 아이온큐(IonQ) 등 글로벌 양자 기술 기업이 참여하는 산업 세션도 진행된다.

[이병구 기자 2bottle9@donga.com]