[투데이 窓]새로운 컴퓨팅 패러다임 '확률론적 컴퓨팅'

[UFO칼럼]

트랜지스터가 개발된 지 75년이 훌쩍 넘었지만 우리는 여전히 비슷한 작동 원리의 트랜지스터로 디지털 컴퓨터를 만들고, 안정적인 0과 1에 기반한 디지털 비트 또한 변함없이 사용하고 있다. 이처럼 컴퓨팅 분야는 언뜻 보아서는 획기적인 변화 없이 점진적인 발전을 하고 있는 것처럼 보인다. 최근에는 양자 중첩 현상에 기반한 양자비트, 즉 큐비트(qubit)를 활용한 양자컴퓨터가 실험실 수준에 벗어나 IBM, 구글, 인텔 등 거대 IT 기업들을 필두로 상용화 혹은 매우 복잡한 계산을 통한 실용적 문제 해결의 가능성을 활발히 모색 중이다.

우리에게 익숙한 0과 1의 디지털 비트와 달리 0과 1의 상태가 동시에 존재할 수 있는 양자컴퓨터의 큐비트는 0 또는 1을 가질 수 있는 확률로 존재하지만 측정하는 순간 0 또는 1의 한 가지 상태만 갖게 된다. 이러한 양자적 현상이 양자 알고리즘과 결합하면 기존 컴퓨터로는 풀기 어려웠던 문제들을 해결할 수 있다. 하지만 이를 완전히 이해하고 실생활에 도움이 되는 수준까지 도달하기에는 긴 시간의 연구개발이 필요해 보인다.

0과 1의 상태가 동시에 존재하는 비트를 상상하기는 어렵지만 시간에 따라 0과 1의 상태가 변하는 비트를 생각하는 건 어렵지 않다. 동전 던지기를 하면 앞면 또는 뒷면이 나올 확률이 각각 50%이듯 이러한 확률은 우리가 일상생활에서 자주 사용하는 개념이다. 하지만 이런 불안정한 비트로는 정보를 안정적으로 저장해야 하는 저장매체는 커녕 디지털 컴퓨터로도 사용하기 어렵다.

하지만 최근에 이러한 무작위 비트를 바탕으로 새로운 방식의 컴퓨팅이 제안되었고 이를 '확률론적 컴퓨팅'이라고 한다. 과학자들은 수많은 무작위 비트를 활용해 수많은 경우의 수를 탐색해야 하는 최적화 문제, 암호학, 머신러닝, 인공지능(AI), 생물학, 화학, 물리학 등 다양한 분야의 난제를 해결하고자 한다. 이미 특정 문제에 대해서는 현재 알려진 가장 빠른 알고리즘의 성능에 필적하거나 그것을 뛰어넘는 성능을 보여주고 있어서 전 세계가 그 놀라운 가능성에 주목하고 있다.

확률론적 컴퓨팅의 급격한 발전 속도는 적절한 알고리즘의 개발과 더불어 그것이 갖고 있는 물리적 장점에 기인한다. 무작위 비트는 우리가 이미 사용하고 있는 다양한 첨단 반도체 소자에서 어렵지 않게 찾아볼 수 있고, 그 특성은 대부분 상온에서 안정적으로 관찰할 수 있다. 바로 이 부분이 새로운 방식의 컴퓨팅 기술로 발전할 무한한 가능성을 보여주고 있다. 극저온에서도 막기 힘든 잡음과 그로 인한 오류 정정 문제로 활용 가능한 비트 수를 쉽게 늘리지 못하는 양자 컴퓨터와는 차별화되는 장점이라 할 수 있다.

또한 초전도체, 광자 등 기존 반도체 공정에서 사용되지 않는 물질을 필요로 하는 양자컴퓨팅과 달리 확률론적 컴퓨팅은 기존 반도체 공정 프로세스와 메모리 반도체에 사용되는 물질을 사용한다는 점도 기술개발의 속도를 빠르게 할 수 있는 측면에서 매우 유리하다. 따라서 확률론적 컴퓨팅과 양자 컴퓨팅을 동시에 개발하고 연구하는 것은 우리가 마주하는 다양한 문제에 대한 더 넓은 범위의 선택지와 상호 보완적인 해결책을 제공할 수 있다.

양자 컴퓨터가 그러하듯 확률론적 컴퓨터도 우리가 사무실이나 가정에서 사용하는 범용 컴퓨터로 발전하기에는 많은 제약조건을 갖고 있기 때문에 특정 영역에서 뛰어난 성능을 발휘하는 컴퓨터로 활용하는 것이 목적이다. 예를 들면, 서울과 같은 대도시의 교통신호등 체계를 최적화하여 교통 흐름을 더욱 원활하게 하거나 미래에 등장할 드론과 플라잉택시와 같은 도심항공교통이 안전하게 최적 경로를 실시간으로 찾는데 활용될 수도 있을 것이다.

그러기 위해서는 최적화된 소자, 회로, 알고리즘 개발 등이 함께 필요하다. 확률론적 컴퓨터는 이제 막 시작 단계인 차세대 컴퓨팅으로 기초 연구를 통해 필요한 하드웨어와 소프트웨어의 통합적 원천기술을 선도적으로 개발해야 한다. 다양한 차세대 컴퓨팅 기술 개발이 한창인 지금 적극적인 투자가 이루어진다면 초창기 기술의 선점효과 뿐만 아니라 관련 지식재산권 확보와 나아가 기술패권 경쟁 시대의 훌륭한 자산으로서 발전 가능성이 기대된다.

[머니투데이 스타트업 미디어 플랫폼 '유니콘팩토리']

김형준 한국과학기술연구원(KIST) 차세대반도체연구소장