AI와 상호작용하는 악성코드… 해킹 더 정교해졌다

AI가 해커들 ‘창끝’이 되고 있다

멕시코 정부 기관은 작년 12월부터 약 6주간 정체불명 해커의 공격을 받았다. 이 해커는 앤스로픽의 인공지능(AI) 모델인 클로드 코드와 오픈AI의 챗GPT에 해커 역할을 부여하고, 정부 네트워크에서 취약점을 찾아 이를 악용하는 스크립트를 작성하도록 했다. 이 공격으로 멕시코 정부는 약 1억9500만건의 납세자 기록과 유권자 정보, 공무원 자격 증명 등 총 150GB(기가바이트) 분량의 데이터를 빼앗겼다고 이스라엘 사이버 보안 스타트업 갬빗 시큐리티가 밝혔다.

AI가 해커들의 날카로운 ‘창끝’이 되고 있다. 첨단 AI 기술이 해킹에 악용되면서 기존보다 정교하고 빠르고, 피해 규모가 큰 사이버 범죄가 다발적으로 벌어지는 것이다. 특히 최근 앤스로픽이 내놓은 첨단 AI 모델 ‘미토스’가 보안 취약점을 정확하게 찾아낼 수 있다는 것이 알려지며 역설적으로 AI 사이버 보안 필요성이 높아지고 있다.

그래픽=김현국

◇정교하고 규모 커진 AI 해킹

AI 시대에 발생하는 해킹은 여러 특징이 있다. 첫째, AI가 해킹을 주도하면서 침투와 피해 규모가 더 커졌다. 앤스로픽은 작년 11월 중국 정부와 연계된 조직이 코딩 AI ‘클로드 코드’를 조작해 AI가 스스로 대형 IT 기업, 금융기관, 화학 제조업체, 정부 기관 등 약 30개의 글로벌 표적을 노리게 했다고 밝혔다. 앤스로픽은 “최초로 AI가 주도한 해킹”이라며 “특히 자동적으로 복잡한 작업을 할 수 있는 AI 에이전트(비서)는 악의적인 사용자 손에 들어가면 해킹 성공 가능성이 높은 대규모 사이버 공격의 도구가 될 수 있다”고 했다.

AI는 해킹 공격을 더 정교하게 만들고 있다. 맨디언트가 지난 3월 공개한 ‘M트렌드 2026’ 보고서에 따르면, 악성코드가 실행 도중에 대규모 언어 모델(LLM)과 상호작용하면서 보안 시스템의 탐지를 우회하는 해킹 방식이 등장했다. 해커들은 사용자의 컴퓨터에 설치된 AI를 조작해 정보를 탈취하기도 한다.

AI가 공격 대상자의 개인 정보를 활용해 ‘더 혹하는’ 피싱 메일을 보내기도 한다. 예를 들어 “고객님 개인정보가 유출됐다”는 피싱이 아니라 “A 고객님 주거래 은행인 B은행의 정보가 유출됐다”고 구체적 개인정보를 활용해 사용자를 더 속이는 것이다. 마이크로소프트(MS)에 따르면 AI로 자동화된 피싱 이메일 클릭률은 54%로, 일반 피싱(12%)보다 4.5배 높았다. 이렇게 정교해진 해킹은 탐지에 더 오랜 시간이 걸린다. 맨디언트 보고서에 따르면, 해킹 발각까지 2024년엔 11일이 걸렸지만, 지난해엔 14일이 걸렸다.

AI 모델 자체가 사이버 공격의 목표가 되기도 한다. 고부가가치 AI 모델이 학습한 자료와 독점적인 알고리즘 등 핵심 지식재산(IP) 탈취가 목표인 것이다. 맨디언트는 “사용자의 AI 앱 자격 증명을 훔치거나 AI 기술을 개발하는 기업을 직접적인 표적으로 삼는 현상도 증가했다”고 했다.

◇보안 특화 AI 모델 출시

AI가 접목된 해킹이 더욱 날카롭고 정교해지자, AI 업체들은 이를 막기 위한 보안 특화 AI를 내놓기 시작했다. 앤스로픽은 이달 AI 모델 ‘미토스’ 프리뷰 버전을 공개하며, AI가 시스템 취약점을 잘 찾아낸다고 밝혔다. 오픈AI도 보안 특화 모델 ‘GPT-5.4-사이버’를 공개했다.

현재 AI 업체들은 시스템 취약점을 빠르고 정확하게 찾아내는 모델을 일부 기관과 연구자에게만 제한적으로 공개한 상태다. 자칫 정체가 확인되지 않은 인물이나 조직이 이를 다른 해킹에 악용할 수 있기 때문이다.

테크 업계에선 앞으로 AI로 정교해진 해킹을 막는 방법은 AI가 더 늘어날 것이라고 본다. 이미 인간 개발자의 속도와 정교함을 뛰어넘어 악용되는 AI를 탐지하고 방어하려면 AI를 활용하는 수밖에 없다는 것이다. MS는 “AI가 사이버 공격의 속도·정밀도·규모를 모두 바꿨기 때문에 방어도 같은 속도로 자동화해야 한다”고 했다.