중국, 오픈클로 AI 에이전트 사용 금지... ‘간접 프롬프트 주입’ 보안 비상

오픈소스 AI 에이전트 사용 금지... CNCERT, 국가 기밀 유출 가능성 경고
링크 미리보기 기능 악용해 데이터 실시간 적출하는 IDPI 공격 시나리오 확인

[보안뉴스 김형근 기자] 중국 보안 당국은 국가 핵심 부서와 국영 기업을 대상으로 AI 에이전트 오픈클로의 사용을 전격 금지했다. 이번 조치는 웹페이지에 숨겨진 악성 지침이 AI의 판단을 왜곡해 기밀을 유출한 ‘간접 프롬프트 주입’이 실질적인 위협으로 입증됨에 따라 진행된 긴급 대응이다.

[출처: gettyimagesbank]

중국 국가컴퓨터네트워크응급대응팀(CNCERT)은 오픈클로의 취약한 기본 설정과 과도한 시스템 권한이 결합해 국가 기밀이 외부로 유출될 위험성이 높다고 경고했다. 이번 경고는 웹페이지에 악섬 지침을 숨겨 AI가 스스로 기밀을 말하게 만드는 프롬프트 주입 공격이 핵심 수법인 것으로 확인됐다.

공격자들은 메신저의 ‘링크 미리보기’ 기능을 악용했다. 사용자가 링크를 클릭하지 않아도 AI가 응답을 생성하는 즉시 데이터를 실시간으로 적출하는 시나리오다. 오픈클로는 명령을 오해하고 데이터를 삭제하거나 시스템 내부에 악성코드를 직접 심는 경로로 악용될 위험이 큰 것으로 분석됐다.

또, 오픈클로의 인기에 편승한 가짜 깃허브 설치 파일을 배포하는 ‘비다 스틸러’(Vidar Stealer) 같은 정보 탈취형 악성코드를 대대적으로 살포하고 있다. 이번 캠페인은 빙(Bing) AI 검색에서 최상단에 악성 저장소를 노출시킬 만큼 정교하게 설계됐다. 특히 LLM을 악용해 자연스러운 커밋 메시지를 만들어 전문가의 코드 검수 시스템을 회피하는 방법도 동원했다.

이번 조치는 그동안 사이버 공격의 주체로만 여겨지던 중국 또한 고도화된 기술적 위협의 표적이 될 수 있음을 인정한 사례로 평가된다.