[기고]양자컴퓨터와 암호학

방정호 한국전자통신연구원(ETRI) 양자컴퓨팅연구실장

'양자컴퓨터'라는 용어는 더 이상 연구자 또는 전문가들 대화에만 존재하지 않게 됐다. 양자컴퓨터 계산 파워와 연구개발(R&D) 동기에 대한 일반 대중 이해도는 현시대에 크게 제고됐다.

최근에는 대중도 유튜브나 온라인을 통해 양자 정보·컴퓨팅 기술에 대해 올바르고 정확한 지식을 얻고 있다. 전문 연구자들의 연구 성과물에까지 쉽게 접근할 수 있는 시대가 된 것이다.

그런데도 초창기 양자정보과학의 국내 도입기 시절에서부터 실체가 없는 비학술적 개념과 용어, 양자컴퓨팅에 대한 일부 과도한 가치 비전이 설파되는 문제점도 존재한다.

양자컴퓨터 소개에 빠지지 않고 등장하는 시나리오 가운데 하나가 소인수분해 양자 알고리즘 개발이다. 소인수분해는 주어진 큰 수가 어떤 수들의 곱으로 이뤄져 있는지 답하는 문제다. 고전 컴퓨터는 많은 계산 자원을 소비하더라도 유한 시간 내 해당 문제를 푸는 것이 요원한 것으로 알려졌다. 이러한 이유로 소인수분해는 특정 암호체계 기반 문제로 여겨져 왔다. 하지만 양자컴퓨터가 이 문제를 빠르게 풀 수 있다는 것이 증명되면서 소인수분해 기반 암호체계는 양자컴퓨터에 대해서는 안전하지 않다는 시나리오가 성립할 수 있게 됐다.

양자정보과학 관점에서 이러한 이슈에 대한 대응은 암호통신체계 자체를 양자화하고 이를 통해 보안성을 강화하자는 의미다. 이를 통해 양자암호통신 연구 분야가 생겨났고 적어도 현재까지는 가장 빠르게 발전하고 있다. 또 다른 해결책으로서 양자컴퓨터도 빠르게 풀지 못할 것으로 믿기는 어려운 문제를 발굴하고 기존의 잘 발전된 고전 기술을 통해 더 복잡한 암호를 구성해 보자는 이른바 '양자 내성 암호학' 또는 '포스트-퀀텀 암호학' 분야가 탄생했다.

양자내성암호는 기본적으로 고전 암호체계다. 양자정보과학기술로 분류되지는 않는다. 따라서 양자내성암호 연구의 핵심은 이른바 '양자 내성'으로 알려진, '양자컴퓨터로도 빠르게 풀지 못할 것으로 믿어지는'과 같은 모호한 조건을 계산과학적으로 명확히 정의하고 그 개념을 정립하는 것이다. 이와 같은 양자내성암호의 주요 학술 목표는 계산과학적으로 고난도 문제들의 양자 공략 가능성을 연구하고 이를 통해 양자컴퓨팅 기술개발에 모멘텀을 확보하고자 하는 양자 정보과학 연구 동기와도 자연스럽게 연결돼 있다.

최근 필자는 한국과학기술연구원(KIST), 고등과학원, 서울대, 한양대, 영국 임페리얼대 등 국내외 동료 연구자들과 함께 격자 기반 양자내성암호 기반 문제 가운데 하나인 선형잡음문제 해결을 위한 양자 알고리즘 연구를 수행했다. 연구 수행 결과 연구팀은 분할-정복(divide-and-conquer) 전략을 활용한 양자 공략 알고리즘을 통해 선형잡음문제의 양자 공략 조건을 특정했다. 최근에는 양자 병렬성 극대화를 위한 양자 중첩 샘플의 생성 및 활용부터 메인 알고리즘 계산까지 전 과정을 결함허용 양자컴퓨팅 관점에서 분석했다. 해당 문제의 다항 시간 내 양자 공략 가능성을 재차 증명했다.

그동안 양자 내성이 존재할 것으로 믿어진 선형잡음문제의 양자 공략 조건이 존재한다는 점을 분명히 한 것이다. 이에 필자를 비롯한 공동연구팀은 암호학, 물리학, 수학 등 다방면의 전문가들과 함께 '어떤 조건이 선형잡음문제를 활용한 양자내성암호 프로토콜의 보안성을 무효로 하는지 또는 강화할 수 있는지' 등에 대해 진중하게 논의하고 있다.

최근 양자정보과학기술 분야에 국가 단위의 정책 비전 설정 및 건전한 연구 생태계 조성 등의 일환으로 필자를 비롯한 모든 연구자는 해당 분야의 올바른 연구 방향성 및 가치 비전 설계를 위해 온 힘을 기울이고 있다.

이런 상황에서 최근 양자 내성 또는 양자컴퓨팅 계산파워 등에 대한 극단적 믿음을 설파하고자 하는 경우도 종종 목격한다. 필자는 양자컴퓨팅 분야를 공부하는 학생 및 초입 연구자에게 이 같은 형태의 주장을 경계할 것을 우선 주문하고 싶다. 특히 '양자내성암호는 양자컴퓨터도 절대 풀지 못한다' 또는 '양자컴퓨터는 모든 문제를 빨리 풀 수 있다' 등은 건전한 학술 세계에서 성립 불가능한 주장이라 생각한다. 해당 맥락에서 파생된 논의 또한 대부분 결론이 없는 공허한 논쟁임을 명심하면 좋겠다.

방정호 한국전자통신연구원(ETRI) 양자컴퓨팅연구실장 jbang@etri.re.kr