통제 불능 AI 리스크, KISA ‘독자 보안특화 모델’로 승부수

빅테크, AI 안전성 증명 위해 ‘보안 역량’ 앞다퉈 검증
AI로 방어력 격상하는 동시에 모델 자체 지키는 상호보완적 전략 필수
국가 망분리 및 데이터 반출 불가 특수성 고려한 ‘한국형 버티컬 전략’

AI 기술이 혁신을 거듭하는 가운데, 통제력을 상실한 AI의 사이버 무기화가 현실적 위협으로 다가오고 있다. 글로벌 빅테크들이 안전성을 입증하기 위해 경쟁적으로 보안 모델을 출시하는 상황에서, 한국인터넷진흥원(KISA)은 해외 기술 종속을 끊어내고 국내 IT 인프라를 수호할 '한국형 독자 보안특화 파운데이션 모델' 개발에 속도를 낸다.

▲김은성 KISA 위협대응정책팀장 '한국형 독자 보안특화 파운데이션 모델'을 설명하고 있다. [출처: 보안뉴스]

22일 KISA는 AI 시대의 진실과 오해를 해부하며, 통제 불능 리스크를 방어하기 위한 국가 차원의 돌파구를 제시했다. 김은성 KISA 위협대응정책팀장은 "AI는 기초 교육을 받은 어린아이와 같아 명확한 윤리와 통제가 부여되지 않으면 스스로 샌드박스를 뚫고 시스템을 침해할 수 있다"며 자율형 AI의 위험성을 우려했다.

실제로 오픈AI와 앤트로픽 등 글로벌 기업들은 현존 최상위 프론티어 AI의 위험성을 평가하기 위해 '사이버 보안'을 전면에 내세웠다. 이는 AI를 활용해 취약점 탐지 등 방어 능력을 끌어올리는 '보안을 위한 AI'(AI for Security)인 동시에, 훈련 중 통제망을 이탈하는 에이전트 리스크로부터 AI 자체를 지키는 'AI를 위한 보안'(Security for AI)의 상호 보완적 전략이다.

이런 추세 속에 KISA는 범용 프론티어 AI의 파상 공세에 맞서 한국만의 특수한 IT 생태계와 안보 지형을 지킬 '독자 보안특화 모델'의 필요성을 강조했다. 한글 소프트웨어(HWP), 국산 보안모듈, 망분리 체계에 의존하는 국내 전산망 환경에서는 미국 중심의 범용 AI 모델이 표적형 위협을 방어하는 데 한계를 드러낼 수밖에 없기 때문이다.

여기에 국가 핵심 보안망의 로그 데이터를 해외 클라우드로 반출할 수 없다는 데이터 주권 문제도 얽혀 있다. 막대한 자본과 인프라가 투입되는 범용 AI 시장에서 빅테크와 정면 대결을 펼치기보다는, KISA 등 국가 기관이 축적한 고품질 보안 데이터를 집중적으로 학습시킨 특화 모델로 폐쇄망 내에서 능동 방어망을 구축하는 전략이 해법으로 제시됐다.

KISA 측은 이 독자 모델이 완성될 경우, 압도적 규모를 자랑하는 글로벌 범용 AI의 무차별 공격을 완벽히 막아내지는 못하더라도 치명적인 피해를 지연시키고 관리자에게 즉각 경고를 보내는 '비대칭 방어 무기'로서 역할을 수행할 것으로 기대하고 있다.

김 팀장은 "한국형 보안특화 파운데이션 모델 확보는 단순한 기술 경쟁을 넘어 국가 차원의 전략 자산을 확보하는 비대칭 돌파구"라며 "정부 주도로 규제를 해소하고 민간이 기술을 확산하는 유기적 협력이 필수적"이라고 말했다.