예쁜꼬마선충 모방해 양자컴퓨터 '가지치기' 했더니…

서울대 연구팀, 광자회로 신뢰도 높이는 기술 개발

국내 연구진이 중요한 소자만 골라내는 가지치기 방식으로 양자 컴퓨터와 인공지능(AI) 딥러닝 등에 활용되는 광자 회로의 신뢰도를 크게 높이는 데 성공했다.

한국연구재단은 박남규·유선규 서울대 교수 연구팀이 범용 양자 컴퓨터 및 광자 머신러닝의 신뢰도를 획기적으로 높이는 양자 회로 가지치기 기법을 개발했다고 26일 밝혔다.

그림출처=한국연구재단 제공.

미래 컴퓨팅에서 막대한 양의 처리 능력을 제공할 혁신기술로 빛의 역할이 주목받고 있다. 빛은 초고속·저손실 연산 등을 가능케 한다. 특정 문제에 국한되지 않는 범용 컴퓨팅 구현을 위해서는 빛의 상태를 실시간 제어하고 프로그래밍할 수 있는 광자 집적회로 활용이 필수적이다. 그러나 회로의 규모가 커지면 소자의 열잡음이 연산 신뢰도를 크게 떨어뜨려, 양자 큐비트 수와 딥러닝 뉴런 수를 상용 가능한 수준으로 늘리는 데 큰 어려움이 존재한다.

연구팀은 다학제적 접근 방식을 통해 광자 회로 분야 난제를 극복했다. 매우 적은 뉴런 수로도 놀라운 기능을 하는 예쁜꼬마선충, 허브 구성 요소들이 시스템 구동을 주도하는 항공망 등에서 착안해 기존보다 효율적인 광자 하드웨어 구현을 시도했다. 이를 위해 양자 컴퓨팅 및 AI에 활용되는 광자 회로의 하드웨어 분석을 진행하는 과정에서, 네트워크 과학의 파레토 법칙(80대20 법칙)이 광자 회로에서도 발견된다는 사실을 확인했다. 허브 소자들이 따로 존재하며, 덜 중요한 소자들을 제거하여 고신뢰도 및 저전력 회로를 구현할 수 있음을 의미한다.

연구팀은 자연계의 숨은 불평등성을 공학적으로 활용하기 위해 딥러닝 소프트웨어 분야에서 활용되고 있는 가지치기 개념을 광자 하드웨어 설계에 최초로 도입해 '양자 회로 가지치기’ 기법을 개발하였다. 이를 통해 높은 신뢰도의 양자 컴퓨팅 및 딥러닝 가속기 구현이 가능하다는 점을 증명했다. 가지치기(Pruning)란 모델 학습 시 중요한 파라미터는 살리고 그렇지 않은 파라미터는 덜어내는 경량화 기술을 말한다.

박 교수는 “이번 연구는 꼭 필요한 소자만 남기는 양자 회로의 미니멀리즘이라고 할 수 있다”며 “가지치기의 효율이 대규모 양자 컴퓨팅 및 딥러닝 가속기에서 더욱 향상된다는 점은 매우 고무적”이라고 설명했다.

이번 연구 결과는 지난 3일 국제학술지 ‘네이처 커뮤니케이션즈(Nature Communications)’에 게재됐다.

김봉수 기자 bskim@asiae.co.kr