우주의 모든 원자를 한 대에 담는 퀀텀 컴퓨터.."어디까지 왔니?"

우주의 원자를 모두 포함해 그 상호작용을 연구할 수 있는 컴퓨터가 퀀텀 컴퓨터다. 275큐비트(qubit·퀀텀컴퓨터의 단위)까지 퀀텀 컴퓨터를 개발하게 되면 인간이 연구할 수 있는 영역이 무궁무진해진다. 하지만 아직까지 퀀텀 컴퓨터 분야에서는 50큐비트 퀀텀 컴퓨터가 시범 운용되고 있는 수준이다.

엄경순 IBM 코리아 CTO가 퀀텀 컴퓨터 내부 사진을 바탕으로 퀀텀 컴퓨터 안정화를 위한 내부 공간의 온도에 대해서 설명하고 있다. /김범수 기자

큐비트는 기존 컴퓨터의 ‘비트(bit)’에 해당하는 연산 단위다. 비트는 0과 1중 하나의 값만 입력할 수 있는 데 반해 큐비트는 0과 1을 중첩할 수 있다. 따라서 비트는 단위가 늘어남에 따라 산술급수적으로 연산 속도가 증가하는 데 비해 큐비트는 단위가 늘어나면서 기하급수적으로 연산 속도가 빨라진다.

퀀텀 컴퓨터 분야에서 가장 앞서가고 있는 회사가 IBM이다. IBM의 퀀텀 컴퓨터 개발 과정과 주요 연구 과제를 살펴보면 퀀텀 컴퓨터의 현 주소와 앞으로의 가능성을 들여다볼 수 있다. 지난 2일 엄경순 IBM 코리아 최고기술책임자(CTO)가 서울 여의도 본사에서 세션을 통해 퀀텀 컴퓨터의 개념과 기술, IBM의 연구 과정 등을 설명했다. 이를 바탕으로 퀀텀 컴퓨터에 대해 정리해봤다.

◇ 양자 물리학에서 출발한 퀀텀 컴퓨터 시범 상용화 중

1981년 IBM은 MIT와 함께 컴퓨터 물리학 컨퍼런스를 개최했다. 노벨 물리학상을 수상한 물리학자 리차드 파인만(Richard Feynman)이 당시 기조연설을 통해 양자 컴퓨터 연구가 필요하다는 메시지를 내놨다. 당시 물리학에서 연구하고 있던 양자 물리학을 기초로 퀀텀 컴퓨터가 필요하다는 이야기였다.

이를 시작으로 이듬해인 1982년 컴퓨터를 바탕으로 IBM이 연구를 시작했고, 1994년 컴퓨터 과학자인 피터 쇼어(Peter Shor)가 양자 컴퓨터 연구를 위한 알고리즘을 개발했다. 기존 컴퓨터에서는 불가능했던 소인수분해를 가능하게 만든 이론으로, 지금도 퀀텀 컴퓨터 연구에서는 하나의 성서처럼 굳어진 이론이다. IBM은 2001년 쇼어의 알고리즘을 바탕으로 컴퓨터 연구를 성공시키기도 했다.

IBM은 2012년도 들어서 퀀텀 컴퓨터의 안정상태를 유지하는 시간(coherence time·상관 시간)을 ‘나노 초(nsec·1나노초는 10억분의 1초)’에서 밀리 초(ms·1밀리 초는 1000분의 1초) 단위로 늘리는데 성공한다. 상관 시간은 큐비트가 안정되게 일할 수 있는 시간이다. 큐비트는 일정 시간 작동하다가 불안정한 상태인 경우가 있는데, 이런 불안정한 상태를 줄이고 안정화 시간을 늘리는 것이 기술의 핵심 중 하나다.

2016년에는 IBM이 ‘큐 익스피리언스(Q Experience)’를 발표한다. 현재는 20큐비트 성능의 퀀텀 컴퓨터의 기능을 바탕으로 클라우드 상에서 여러 프로그램을 조작해볼 수 있게 해놨다. 20큐비트는 2의 20승(104만8576)만큼의 스테이트를 가질 수 있다고 표현하는데, 해당 수치만큼 원자를 담아 발생할 수 있는 경우의 수를 프로그래밍 해볼 수 있다고 볼 수 있다. 기존 컴퓨터가 해낼 수 없는 수치다.

흰색 원통이 IBM Q 퀀텀 컴퓨터가 담겨있는 기기다. 오른쪽 상단 사진은 퀀텀컴퓨터로 가장 아래 노란색 기기판이 퀀텀 컴퓨터의 큐빗 회로다. /김범수 기자, 회로 사진은 IBM Q 홈페이지 캡처

20큐비트의 퀀텀 컴퓨터는 상용화해서 협력사와 함께 여러 분야에 적용하는 법을 연구 중에 있다. 50큐비트 퀀텀 컴퓨터는 IBM이 파일럿 실험 중에 있다. 100큐비트 퀀텀 컴퓨터를 2020년까지 개발하겠다는 목표로 연구가 진행 중인데 100큐비트 컴퓨터는 우주에 존재하는 모든 원자를 담아 이에 대한 여러 상황을 시뮬레이팅 해볼 수 있는 정도의 성능이다.

◇ 퀀텀 컴퓨터 핵심은 큐비트, 상관 시간, 에러율 감소

중앙처리장치가(CPU)라던가 램 메모리는 단위를 늘려나가면서 연산 능력을 키우는 것이 핵심이다. 예를 들면 아이폰7의 CPU안에 트랜지스터는 30억개 정도가 들어가는데 이 성능을 두배로 키운다고 하면 트랜지스터가 2배인 60억개가 들어가야 한다.

하지만 퀀텀 컴퓨터는 작은 큐비트를 추가하면 된다. 트랜지스터를 억 단위로 늘리지 않아도 되는데 문제가 단순하지 않다. 큐비트 추가에서 끝나는 것이 아니라 앞서 말했던 상관 시간을 늘려야 하고 에러율도 줄여야 한다. 아무리 큐비트 단위가 높아져도 상관 시간이 늘지 않으면 의미가 없다.

핵심은 에러율이다. 큐비트가 증가해도 에러율이 낮춰지지 않으면 100큐비트 퀀텀 컴퓨터와 50큐비트 퀀텀 컴퓨터 성능의 차이가 없어진다.에러율을 0.0001까지 낮춰야 50큐비트 퀀텀 컴퓨터와 100큐비트 퀀텀 커퓨터의 성능 차이가 발생한다. 에러율이 0.001이면 사실상 성능차이가 없다고 한다.

또 이 퀀텀 컴퓨터를 사용하기 위해서는 원자의 움직임을 최소할 수 있는 온도를 만들어줘야 한다. 켈빈 온도를 단위로 쓰는데, 0K는 섭씨 마이너스 273.16도로 절대 영도라고 하는데 IBM은 이 값에 가까운 0.015K까지 온도를 낮춰 퀀텀 컴퓨터의 원자 움직임을 최소화해 사용하게끔 만들었다. 이 때문에 실제 퀀텀 컴퓨터는 커다란 원통에 담겨있어 크기가 크다.

◇ 상용화 눈 앞에 두고 있는 퀀텀 컴퓨터

IBM이 개발자들이 퀀텀 컴퓨터를 위한 소프트웨어를 개발해볼 수 있게끔 만든 퀴스킷(QISKit)은 개발자용 도구다. /IBM Q 홈페이지 캡처

2020년이면 100큐빗이 가능할 거라고 보고 있는 IBM은 5년 후 정도면 상용화되서 여러 연구분야에 쓰일 수 있을 것으로 예측하고 있다. AI를 위한 머신러닝 알고리즘을 지금보다 폭발적으로 연구와 화학 분야의 더 복잡한 연구를 위해 적용할 수 있는 시기는 5년 미만으로 예측하고 있다.

상용화가 된다면 한계에 부딪힌 배터리 문제를 해결하기 위한 새로운 연구를 진행하거나, 지금보다도 성능이 개선된 AI를 위한 머신러닝 알고리즘을 지금 과는 비교할 수 없을 정도의 숫자로 시뮬레이션 할 수 있다는 의미다. 50큐비트가 2의 50승이므로 1000조 단위의 머신러닝 시뮬레이션이나 화학 반응 시뮬레이션을 해볼 수 있다고 볼 수 있다.

이렇게 되면 사실상 지금 컴퓨터로 연구할 수 없는 분야를 연구하게 돼 산업이나 과학 영역에서 새로운 지평을 열어주게 된다. IBM은 화학 분야(소재나 약재 등), AI, 금융 분야(포트폴리오 최적화, 가격 결정 등)에서 폭발적인 변화를 가져올 수 있도록 연구 분야에서 퀀텀 컴퓨터를 사용하는 것을 5년 후 정도로 보고 있는 셈이다.

IBM은 클라우드 상에서 20큐비트 퀀텀 컴퓨터를 경험해볼 수있는 ‘큐 익스피리언스’를 운영 중인데 9만2000명이 사용하고 있다. 현재 500만개 정도 실험결과, 100개의 논문, 1500개 대학, 300개 고등학교, 300개 사설 연구기관이 사용 중인데, IBM은 퀀텀 컴퓨터가 적용될 수 있는 분야를 늘리기 위해 여러 방식으로 지원하고 연구 협업을 확장하고 있다. 기존 컴퓨터 언어인 파이썬으로 퀀텀 컴퓨터용 프로그램을 프로그래밍 할 수 있게 해놓기도 했다.

주요 파트너는 한국에 삼성전자가 있다. 소재 분석과 개발 등 반도체와 전자산업분야에서 영향을 미칠만한 실제 사용 사례를 만들기 위해 연구 중이다. 이외에도 제이피모건이 거래 전략과 포트폴리오 최적화, 펀드 자산가격 결정을 위해 함께 연구 중이고, 다임러도 차량 제조, 자율주행 기술, 자동차 신소재 개발 등에 활용하기 위해 협력하고 있다.

- Copyrights ⓒ 조선비즈 & ChosunBiz.com, 무단 전재 및 재배포 금지 -