연내 ‘중국산 미토스’도 온다…“韓 AI보안 사면초가”

NVD축소·글래스윙배제…‘보안 고립’ 심화
망분리 규제 족쇄…방어 AI 못 쓰는 기업들
아시아 독자 연합·AI 자동화 방어망 시급

제미나이가 그린 일러스트

정부와 보안업계를 모두 긴장시킨 ‘미토스 프리뷰’(이하 미토스)와 비슷하거나 이보다 뛰어난 자율형 사이버공격 능력을 가진 인공지능(AI) 모델들이 연내 쏟아질 것이란 경고가 나왔다. AI 기술을 선도하는 미국 빅테크들뿐 아니라 중국의 딥시크 등 후발주자들의 모델도 연내 비슷한 수준에 도달할 것이란 전망이다.

글로벌 AI기업들은 ‘글래스윙’ 프로젝트 등을 통해 제한된 대상에만 사전 위험 정보를 공유하는 방식으로 대응책을 먼저 마련한다는 방침이다. 하지만 글로벌 보안 동맹에서 배제된 우리나라의 대응 체계가 우려스러운 수준이란 지적이 잇따른다.

3일 정보보호업계에 따르면 AI가 스스로 소프트웨어(SW) 취약점을 찾아내고 해킹 도구까지 만들어내는 자율형 AI 공격 시대가 본격화되면서 국내 사이버 안보에 비상이 걸렸다. 아직 국내 기업이나 연구기관 중 한 곳도 앤스로픽의 글래스윙 프로젝트에 포함되지 못한 상황이다.

이 가운데 글로벌 취약점 정보의 중심축인 미국의 국가취약점데이터베이스(NVD)마저 업무 과부하로 분석 지원을 대폭 축소하며 우려가 더욱 커지고 있다.

◇상향 평준화된 AI 공격력…쏟아지는 제로데이에 무방비

권태경 연세대 교수는 “미토스의 사이버공격 능력이 문제가 되는 이유는 다른 프론티어 모델들도 비슷한 역량을 가질 수 있다는 것”이라며 “이미 중국 모델들은 이 수준까지 온 모델이 있을 것으로 본다”고 진단했다. 이미 지난달 영국 AI보안연구소는 오픈AI가 최근 출시한 ‘GPT-5.5’가 해킹 테스트에서 평균 71.4%의 성공률로 미토스(68.6%)를 뛰어넘는 성적을 거뒀다고 발표했다.

대형언어모델(LLM)의 추론 및 코딩 능력이 향상되면서 해킹 능력 역시 상향 평준화되는 추세다. 박세준 티오리 대표는 “AI가 인간이나 기존 기술이 찾지 못하던 제로데이 버그를 끊임없이 찾아내고 있다”며 “공격 비용이 사실상 0에 수렴하면서 대상을 가리지 않는 무차별 공격이 가능해졌다”고 경고했다.

이런 상황에서 전 세계 보안의 나침반 역할을 하던 미국 국립표준기술연구소(NIST)의 NVD도 축소됐다. NIST는 지난달 AI의 발전으로 SW 생산량과 취약점이 폭증하면서 자국 핵심 취약점 위주로만 분석을 진행하겠다고 밝혔다.

이상근 고려대 교수는 “방어자 입장에서는 미토스의 등장보다 NVD 축소가 당장 더 치명적”이라며 “미국 연방정부가 쓰지 않는 한국 토종SW나 중소기업의 코드는 취약점 유무조차 파악할 수 없는 상황이 됐다”고 짚었다.

전문가들은 외부 공격뿐 아니라 방어벽 내부에서 임직원들이 AI를 임의로 사용하는 ‘섀도우 AI’로 인한 균열도 경고한다. 김진수 한국정보보호산업협회(KISIA) 회장은 “내부 IT 정책을 잘 아는 유출자가 AI를 활용하면 기존 보안 시스템에 탐지되지 않는 기상천외한 반출 경로를 설계할 수 있다”며 AI 시대에 고도화될 내부자 위협을 경고했다.

5000만 토큰 예산 기준 모델별 고급 사이버 과제 평균 성공률. 영국 AI보안연구소 제공

◇AI엔 AI로 맞불…골든타임 사수할 ‘패치 자동화’ 절실

공격자들이 최신 AI를 앞세우며 그동안 찾아내지 못했던 취약점들을 공략하고 있지만, 한국은 낡은 내부 규제와 글로벌 고립 등으로 방어선을 세우지 못하고 있다.

장세인 토스증권 최고정보보호책임자(CISO)는 “공격자는 AI를 활용해 정상 트래픽과 구별되지 않는 정교한 공격을 시도하는데, 방어자는 강력한 망분리 규제 때문에 글로벌 위협 인텔리전스나 클라우드 기반 최신 AI 보안 솔루션을 온전히 활용하기 어려운 심각한 비대칭 상황”이라고 토로했다.

방어의 패러다임 자체도 바꿀 필요성이 제기된다. 기존처럼 단일 ‘보안 이벤트’(패턴 매칭)만 바라보는 방식에는 한계가 있다는 지적이다. 누가, 어떤 경로로 접근해 무엇을 했는지 전체적인 맥락(콘텍스트)을 수집·분석 가능하도록 제로트러스트 체계를 갖춰야 한다는 게 전문가들의 견해다.

미국 중심의 정보 공유망에서 소외된 현실도 극복해야 할 숙제다. 이 교수는 “미국 통상법상 사이버보안 특화 AI 역량이 국가 전략자산으로 분류될 경우, 수출 통제 조항에 묶여 우방국이라도 접근이 원천 차단될 수 있다”며 정부 차원의 외교적 노력을 주문했다.

최근 과학기술정보통신부 등 정부가 앤스로픽과 사용 권한 등을 논의하고 있다고 밝혔지만, 미국 정부는 미토스 개발사 앤스로픽에 사용자를 늘리지 말 것을 주문한 상황이다.

한편, 현재 글래스윙에서 소외된 아시아 지역을 중심으로 민간 차원의 동맹을 결집하고 한국이 그 중심에 설 수 있다는 의견도 나온다. 박 대표는 “북미 위주의 글래스윙에 대항해 아시아 지역의 보안 정보 공유를 주도할 독자적인 얼라이언스 ‘프로젝트 캐노피’를 준비 중”이라 설명했다.

국내 환경에 맞는 SW취약점 DB를 확장하고, 탐지부터 패치까지 AI로 자동화하는 체계 도입을 서두를 필요도 있다. 권 교수는 “미토스급 AI가 쏟아지기까지 시간이 얼마 남지 않은 지금이 우리에게 남은 마지막 골든타임”이라며 “무수히 발견될 제로데이 취약점에 즉각 대응할 수 있도록 AI 기반 자동화 패치 체계 구축과 전문 인력 확충에 전폭적인 투자를 서둘러야 할 시점”이라 강조했다.

AI 보안 역시 사이버 복원력 확보가 관건이다. 김 회장은 “결국 AI 공격은 AI 기반 방어 체계로 맞불을 놓을 수밖에 없다”며 “나아가 방어선이 뚫리더라도 피해 확산을 즉각 차단하고 서비스 연속성을 유지하는 구조적 복원력을 설계하는 것이 향후 국가와 기업의 핵심 생존 전략이 될 것”이라 말했다.

김남석 기자 kns@dt.co.kr