북한 김수키, 로컬 LLM과 에이전트까지...AI로 공격 고도화

북한 해킹 조직 김수키가 인공지능(AI)을 통해 만든 피싱용 거짓 투자 문서. /지니언스

북한 해킹 조직 김수키(Kimsuky)가 인공지능(AI)을 이용해 피싱 문서를 제작하는 것을 넘어, 로컬 대규모 언어 모델(LLM)과 AI 에이전트(비서) 등을 구축하며 공격을 자동화하고 있는 것으로 나타났다. 김수키는 북한의 대남·해외 공작을 담당하는 정찰총국 산하 사이버 첩보 조직으로, 2012년 무렵부터 한국과 미국·일본·유럽의 정부 기관과 연구소, 언론인 등을 상대로 중요 정보를 빼내기 위한 해킹 공격을 벌여왔다.

사이버 보안 기업 지니언스는 10일 김수키가 공격용 서버에 ‘올라마(Ollama)’ ‘GPT4All’ ‘Msty’ 등 로컬 LLM 프로그램을 설치하고 사용한 흔적을 포착했다고 밝혔다. 로컬 LLM은 챗GPT처럼 외부 업체의 서버에 접속하지 않고, 자체 PC나 서버에 AI를 내려받아 구동하는 방식이다. 해킹으로 훔친 기밀 자료나 공격 정보를 외부에 노출하지 않고 분석할 수 있어 북한 같은 해킹 조직에 유용하다. 탈취한 문서에서 필요한 정보를 찾아 정리하는 검색 증강 생성(RAG) 기능을 사용한 흔적도 확인됐다. 기업 내부 문서나 금융 자료 등을 AI에 입력해 계정 정보와 공격 대상 등 필요한 정보를 빠르게 추려내려 한 것으로 추정된다.

김수키는 AI가 여러 작업을 사람 대신 수행하도록 만드는 ‘에이전트’ 환경도 구축한 정황도 발견됐다. 이들은 AI 에이전트 개발 도구와 AI 기반 코딩 도구 등을 확보해 악성 코드 개발과 탈취 자료 분석, 반복적인 공격 작업을 자동화하는 방안을 연구한 것으로 분석된다. 다만 자체 LLM을 새로 개발한 것은 아니다. 지니언스는 “AI를 전반적인 공격 작전에 통합하기 위한 기술과 역량을 축적하는 단계에 있는 것으로 평가된다”고 했다.

공격 방식도 정교해지고 있는 것으로 나타났다. 기존에는 훔친 정상 문서를 피싱 미끼로 재활용하거나 AI로 피싱 문구를 작성하는 수준이었다. 최근에는 AI로 가상 자산 투자 보고서와 금융 자료 등을 실제 문서처럼 제작해 악성 파일 실행을 유도하는 것으로 파악됐다. 문체와 디자인이 자연스러워지면서 피해자가 가짜 문서임을 구별하기도 어려워졌다는 분석이 나온다.

지니언스는 “김수키 등 위협 행위자가 AI를 일회성 실험에 그치지 않고 악성 코드 개발, 데이터 분석, 공격 기법 발전 등 실제 공격 능력에 통합하기 위해 지속적으로 준비하고 있다는 증거”라고 했다.