대기업도 연이어 털렸다…해킹 원천차단 '동형암호' 기술 뜬다

[테크업팩토리] 데이터 암호화해 저장·연산…현존 최고 암호기술 '동형암호'

[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]

[서울=뉴시스] 권창회 기자 = 18일 서울 중구 롯데카드센터에 고객보호조치사항 안내문이 게시되어 있다. 롯데카드 해킹 사고로 약 200GB(기가바이트) 규모의 데이터가 유출되면서 297만명의 회원 정보가 새어나갔다. 이 가운데 28만명은 카드번호와 비밀번호 2자리, CVC번호까지 유출돼 부정 사용에 노출된 것으로 파악됐다. 롯데카드는 전사적 비상대응체계를 가동하고 피해가 발생할 경우 전액 보상한다는 방침이다. 정보 유출 고객에게는 유출 사실을 안내하고, 무이자할부와 금융피해 보상 서비스, 카드사용 알림 서비스 등을 연말까지 제공한다는 방침이다. 2025.09.18. kch0523@newsis.com /사진=권창회

최근2300만명의 개인정보가 유출된 SK텔레콤 사태를 시작으로 KT 무단 소액결제 피해, 롯데카드 회원정보 유출 등 대형 해킹사건이 있따라 터졌다. 연이은 사고로 전통적 보안 체계의 한계가 드러났다는 지적이 나온다. 기업들은 방화벽·접근제어 등 외곽 방어를 강화해왔지만 일단 침투가 발생하면 데이터가 그대로 유출되는 구조였다. 결국 서버가 뚫리더라도 데이터 자체가 안전하게 저장·처리돼야 피해를 막을 수 있다는 설명이다.

이 대안으로 떠오른 것이 동형암호다. 동형암호는 데이터를 암호화된 상태에서 그대로 연산·검색할 수 있는 기술로, 현존 암호기술 중 최고 수준으로 평가된다. 기존 방식처럼 암호화된 데이터를 푸는 '복호화' 과정에서 데이터가 노출되지 않아 금융·의료·공공 데이터처럼 민감한 정보보호에 특히 강점이 있다. 해외는 물론 국내에서도 동형암호 기반 보안 솔루션을 제공하는 스타트업이 주목받고 있다.

━

해킹 당해도 데이터 유출 걱정 NO?…동형암호가 뭐길래

━

현존 최고 암호기술 '동형암호'의 원리/그래픽=이지혜

사실 그동안 기업들이 데이터 암호화를 소홀히 한 건 아니다. 다만 암호화된 데이터를 활용하려면 복호화 과정을 거쳐야 했고, 이 과정에서 보안 유출 가능성이 높아졌다. 복호화해 데이터를 처리하는 시간도 오래 걸렸다.

이에 반해 동형암호는 복호화를 거치지 않고 암호화된 상태 그대로 데이터를 연산할 수 있다는 점에서 차이가 있다. 동형암호 스타트업 크립토랩의 천정희 대표(서울대 수리과학부 교수)는 동형암호를 비누 거품에 비유했다.

천 대표는 "그동안은 데이터를 비누 거품에 감싸 금고 안에 저장해 두고 활용할 때는 금고를 열어 꺼내야 했다"며 "동형암호 기술을 적용하면 금고를 열지 않고도 비누 거품에 쌓인 데이터를 직접 처리할 수 있다"고 설명했다.

동형암호 개념은 1978년 처음 제안됐으나, 지나치게 느린 처리 속도 탓에 상용화되지 못했다. 전환점은 2009년 미국 암호학자 크레이그 젠트리가 가능성을 입증하는 논문을 발표하면서 마련됐다. 이후 국내외 학자와 스타트업들이 상용화를 위한 연구·개발을 이어왔다.

동형암호는 발전 단계에 따라 1세대부터 4세대까지 나뉜다. 1세대는 2009년 젠트리의 논문으로, '이론적으로 가능하다'는 사실만 증명한 수준이었다. 2세대는 실제 구현에 성공했지만 사과 개수를 더하는 것처럼 정수만 계산할 수 있었고 속도가 매우 느렸다.

3세대에 들어서면서 0과 1(비트) 단위의 계산을 여러 개 묶어 한꺼번에 처리하는 방식이 도입됐다. 사탕을 하나씩 세는 대신, 열 개씩 포장된 채로 세는 것과 같아 성능이 크게 개선됐다. 4세대 동형암호는 한 단계 더 나아가 소수점이 있는 실수 계산까지 암호화할 수 있는 것이 특징이다.

━

크립토랩, 최초의 4세대 동형암호 개발…글로벌 기업은 어디?

━

카카오엔터프라이즈가 동형암호 기술 기반 보안 기업 ‘크립토랩’과 클라우드 및 보안 분야 협력을 위해 업무 협약을 체결했다. (왼쪽부터)천정희 크립토랩 대표, 이재한 카카오엔터프라이즈 클라우드부문 사업본부장./사진제공=크립토랩

최근에는 기존 대비 수십수백배 빠른 연산 속도를 구현한 기술을 '4.5세대'로 부르기도 한다. 크립토랩의 동형암호 소프트웨어 '혜안'이 대표적이다. 혜안은 기존 방식보다 100배 이상 빠르다는 평가를 받고 있다.

국제적으로 기술력도 인정 받았다. 크립토랩은 2017년 국제 유전정보 분석 보안대회(iDASH)에서 암호화된 암 환자 900여명의 유전자 정보를 분석해 암 종류를 분류하는 과제에서 마이크로소프트보다 30배 이상 빠른 성능으로 1위를 차지했다. 데이터가 암호화돼 누가 어떤 병에 걸렸는지 모른 채로 진단명 같은 발병 정보만 빠르게 판단해낸 것이다.

기술적 완성도가 높아지면서 상용화도 활발히 이뤄지고 있다. 최근 크립토랩은 토스에 얼굴 특징점 데이터를 보호하는 EFR 제품을 공급하기 시작했고, LG유플러스도 연내 도입을 검토 중이다. 카카오엔터프라이즈와는 보안 협력 업무협약(MOU)을 맺었으며, 해외 기업과도 계약을 체결했다.

동형암호는 크립토랩을 필두로 프랑스의 자마(Zama), 미국의 듀얼리티 테크놀로지(Duality Technologies) 등 해외 스타트업들이 원천 기술을 선도하고 있다. 자마는 블록체인·AI·클라우드 환경에서 활용 가능한 완전 동형암호(FHE) 기술을 오픈소스로 공개했다. 2025년 시리즈B 투자유치로 기업가치 10억 달러를 돌파하며 유니콘에 올랐다.

듀얼리티는 MIT 출신 암호학자 샤피 골드바서 교수가 공동 창업한 기업이다. 미국 국방부 산하 국방고등연구계획국(DARPA) 수백만 달러 규모의 연구 계약을 수주해 암호화 데이터 위에서 머신러닝을 수행하는 프로젝트를 주도하고 있다.

[머니투데이 스타트업 미디어 플랫폼 유니콘팩토리]

남미래 기자 future@mt.co.kr