"AI가 해킹 지휘"…앤트로픽, 사이버공격 악용 사례 공개[글로벌AI브리핑]

[파이낸셜뉴스] 인공지능(AI)이 해커의 조수 역할을 넘어 실제 사이버공격의 상당 부분을 지휘하고 수행하는 사례가 확인되면서, AI 발 사이버 안전 논쟁에 다시 불을 붙였다.

11일(현지시간) 미국 IT전문매체 더버지에 따르면 앤트로픽은 최근 공개한 위협정보 보고서에서 지난해 12월부터 올해 8월까지 AI 모델 '클로드'가 악의적인 사이버공격에 이용된 사례들을 공개하면서, "AI가 공격자의 조수에서 오케스트레이터로 진화하고 있다"고 진단했다.

앤트로픽은 "공격자들이 클로드를 이용해 정찰, 취약점 탐색, 침투, 자격증명 탈취, 악성코드 개발, 데이터 유출 등을 연결하고 자동화했다"고 밝혔다. 특히 일부 공격에서는 여러 AI 에이전트가 동시에 작업하면서 사람이 자리를 비운 동안에도 공격을 지속했다고 설명했다.

클로드의 공격으로 인한 실제 피해 사례도 확인됐다.

앤트로픽은 최근 공개한 위협정보 보고서에서 지난해 12월부터 올해 8월까지 AI 모델 '클로드'가 악의적인 사이버공격에 이용된 사례들을 공개하면서, "AI가 공격자의 조수에서 오케스트레이터로 진화하고 있다"고 진단했다.앤트로픽은 "공격자들이 클로드를 이용해 정찰, 취약점 탐색, 침투, 자격증명 탈취, 악성코드 개발, 데이터 유출 등을 연결하고 자동화했다"고 밝혔다./사진=뉴시스

앤트로픽은 "중국어권으로 추정되는 공격자들이 클로드를 공격 프로그램의 엔지니어링·운영 시스템으로 활용해 약 50개 조직을 공격 대상으로 삼았다"며 "교육·유통·에너지·기술·의료·금융 기업과 각국 정부기관 등이 공격 대상 포함됐으며, 한 교육기술 기업에서는 수백 메가바이스(MB) 규모의 학생 개인정보가 탈취됐고, 한 유통업체의 실제 운영 시스템에도 침투해 내부 환경을 변경할 수 있는 수준까지 접근했다"고 사례를 공개했다.

또 AI가 공격자의 노동력을 대체하는 모습도 드러났다. 앤트로픽 보고서에 따르면 한 공격 조직은 AI 에이전트가 보안 제품에 악성코드가 탐지됐다는 사실을 확인한 뒤, 코드를 자동으로 수정·재구축해 탐지를 피하도록 했다는 것이다.

피싱에 사용할 도메인을 조사하고 등록하거나 공격 인프라를 구축하는 작업을 AI 기반 워크플로로 자동화한 사례도 발견됐다.

단 앤트로픽 보고서에 확인된 사이버공격 사례들은 대부분 인간이 표적 선정이나 결과 검토 등에 관여하고 AI는 실제 공격에 동원된 것으로, AI가 스스로 해킹에 나선 것은 아니다.

그러나 공격자가 표적을 선정하면 AI가 여러 공격 단계를 스스로 연결하고 몇시간 또는 며칠 동안 최소한의 인간 개입으로 정찰과 침투, 정보탈취를 진행한 것으로 드러났다. 결국 공격자가 지시한 것을 실행하기 위해 AI가 외부 시스템에 침투하고 계정정보를 탈취하거나 시스템 설정을 변경하는 등 스스로 작전을 짰다는 것이다.

이에 대해 앤트로픽은 "AI가 사이버 공격의 조수에서 오케스트레이터 역할로 진화하면서, AI가 사이버공격에 투입되면 필요한 전문인력과 비용은 줄고 공격 속도와 규모는 커진다"는 진단을 내놨다.

cafe9@fnnews.com 이구순 기자