[대덕포럼] 크립토그래피 고대에서 디지털까지

박근엽 한국원자력연구원 기술정책연구실장

최근 대규모 개인정보 유출 사건으로 인해 많은 이들이 불안에 떨고 있다. 특히 보안에 가장 철저했어야 할 기업에서 고객 정보를 암호화되지 않은 '평문'으로 보관하다 유출됐다는 점에서 충격이 컸다. 디지털 정보가 일상이 된 오늘날, 중요한 데이터를 암호화하지 않았다는 사실은 심각한 보안 인식 부재로 여겨진다. 정보를 보호하려는 노력은 디지털 시대만의 고민은 아니다. 고대부터 비밀 메시지를 안전하게 전달하기 위한 암호화 기술이 존재했고, 이는 오늘날의 디지털 암호 기술로 이어졌다.

메시지를 숨기는 방식은 크게 두 가지다. 첫째는 메시지의 '존재' 자체를 감추는 스테가노그래피(Steganography)로, 어릴 적 레몬즙으로 글씨를 써 말린 뒤, 촛불에 비추면 글씨가 드러나던 놀이와 비슷한 원리다.

둘째는 메시지의 '의미'를 바꾸는 크립토그래피(Cryptography)로, 정해진 규칙에 따라 평문을 암호문으로 바꾸고 다시 해독하는 방식이다. 크립토그래피에는 글자의 위치를 바꾸는 전치법과 문자를 다른 문자나 숫자로 치환하는 대체법이 사용된다. 이렇게 만들어진 암호문을 사이퍼(Cipher)라 하며, 이를 해독하려면 송수신자만 아는 규칙인 키(Key)가 필요하다. 가령 알파벳 'A, B, C'를 3자리 뒤의 'D, E, F'로 바꾸었다면, 이 사이퍼의 키는 '3'이다. 송수신자는 이 키를 공유해야 하며, 어떻게 키를 전달할지가 크립토그래피의 핵심이다. 암호화 기술은 단순한 규칙에서 출발해 점차 진화했고, 15세기에는 기계화되기 시작했다.

최초의 암호화 기계는 이탈리아 건축가 레온 알베르티가 개발한 사이퍼 디스크다. 크고 작은 두 개의 원판을 겹쳐 가운데를 고정하고, 각 원판의 가장자리에 알파벳을 새긴 형태로서, 원판이 회전할 때마다 가장자리의 알파벳 조합이 바뀌어 다양한 사이퍼를 만들 수 있었다. 이는 단순한 원리지만, 훗날 역사상 가장 강력한 사이퍼 기계의 기초가 됐다.

1차 대전에서 패한 독일은 통신 기밀 누설을 패전의 원인으로 지목하고, 새로운 암호화 기술 개발에 박차를 가했다. 그 결과, 전기공학자 아르투어 슈르비우스는 사이퍼 디스크를 자동화한 장치, 에니그마(Enigma)를 개발했다. 에니그마는 다중 스크램블러와 반사판을 통해 10의 16승에 달하는 암호 조합을 만들어낼 수 있었다. 하지만 난공불락으로 여겨지던 이 기계는 의외로 '기술'이 아닌 '습관'에 의해 무너졌다.

영국 수학자 앨런 튜링은 독일군이 매일 오전 6시경 전송하는 메시지에 주목했다. 이는 기상 정보로 'wetter(날씨)'라는 단어가 반복적으로 등장했다. 또한 군사 메시지는 일정한 구조를 유지했기에, 튜링은 이 패턴을 바탕으로 에니그마 해독기 '봄브(Bombe)'를 설계했다. 마침내 그는 독일의 암호를 완벽하게 해독하는 데 성공했고, 이 이야기는 영화를 통해서도 잘 알려져 있다.

튜링은 컴퓨터 과학의 이론을 정립한 인물로도 유명하다. 컴퓨터의 등장은 크립토그래피에 혁신을 가져왔다. 에니그마는 기계장치로서 물리적 한계가 존재했지만, 컴퓨터는 수십억 개의 사이퍼 조합도 단숨에 처리할 수 있었다. 그리고 문자 기반의 암호는 이진수 기반의 ASCII 코드로 대체되며, 암호화는 더욱 복잡하고 정교해졌다.

하지만 기술이 발전해도 크립토그래피의 본질은 여전하다. 암호를 생성하고 해독하려면 송수신자가 동일한 키를 공유해야 하며, 이 키가 유출되면 보안은 무력화된다. 디지털 방식은 언제든 탈취될 수 있으므로, '키 전달 방식' 자체가 보안의 핵심이 됐다. 여전히 가장 안전한 방식은 직접 전달이지만, 지구 반대편이나 한번에 다수에게 전달하는 건 현실적으로 매우 어렵다. 결국 현대 크립토그래피도 서로 만나지 않고도 안전하게 키를 교환하는 방법이라는 숙제에 직면했다. 그렇다면 우리는 어떻게 이 문제를 해결했을까? 그리고 우리는 어떤 방식으로 안전하게 디지털 정보를 주고받고 있을까? 박근엽 한국원자력연구원 기술정책연구실장