앤트로픽 "이란 연계 단체, AI로 미 군함 공격 시도했다"

앤트로픽, 해당 공작 사전 적발해 계정 정지·감시 도구 개발
여러 국가 연계 세력, 감시·무기 개발에 클로드 악용…안전장치 우회 시도

이란 연계 단체가 미국의 인공지능(AI) 모델을 활용해 미 해군 함정 등을 공격하려 한 정황이 발견됐습니다.

현지 시간 11일 앤트로픽의 'AI 오남용 감지·대응' 보고서에 따르면, 'GTG-30005'라는 코드명으로 식별된 이란 연계 위협 세력은 앤트로픽 AI 모델 클로드를 활용해 중동에 주둔하고 있는 미 해군 부대의 위치와 공격 표적 추천서 등을 작성했습니다.

이란 해커들은 공개된 군사 사진 캡션 등을 통해 미군 명단, 군함·항공기 위치 데이터, 상업용 위성사진 등을 추출하고, 이를 종합해 미 군함 등의 동선을 추적했습니다.

이어 이들은 클로드를 활용해 이들 군함의 통신·제어 시스템 보안 취약점을 집중적으로 연구했습니다.

앤트로픽은 이와 같은 공작을 사전에 적발해 관련 계정을 정지시켰으며, 정부 당국에 해당 위협을 공유하고 향후 악용 위험을 줄이기 위한 감시 도구도 개발했다고 밝혔습니다.

이란 외 예멘 후티 반군 연계 세력(GTG-87001)은 클로드를 사용해 사거리 2천㎞ 이상의 다단계 탄도 미사일과 극초음속 활공체 등을 포함한 유도 무기 소프트웨어를 개발하려 했습니다.

이에 앤트로픽은 "안전장치가 요청 다수를 차단했으나 전부 차단하지는 못했다"고 설명하면서, 해당 계정을 차단하고 당국과 공조했다고 덧붙였습니다.

중국 정부와 연계된 세력도 클로드로 시리아 내 위구르족을 추적·감시하고 아시아 전역의 종교 지도자를 비밀리에 조사했습니다.

러시아 연계 세력은 우크라이나 전선 데이터를 클로드로 학습시켜 자율 살상 드론 군집을 구축하려 시도했고, 아프리카 국가에 친러시아 성향 선전물을 유포하는 데도 악용했습니다.

그 밖에도 앤트로픽은 특정 국가 연계 세력이 클로드로 치명적인 생물 무기를 개발하려 시도하다 적발돼 차단했다고 밝혔으나, 어떤 국가와 외국 정부가 이런 시도와 연계돼 있는지는 공개하지 않았습니다.

앤트로픽은 "적절한 안전장치가 없다면 이와 같은 능력은 재앙적인 결과를 초래할 수 있다"고 경고했습니다.

클로드는 악의적 해킹이나 생물학·화학 무기 제조 등에 자사 AI 모델을 이용할 수 없도록 하는 안전장치를 두고 있으나, 문제가 된 세력은 이와 같은 제한을 우회하기 위해 자신의 의도를 숨기고 끈질기게 시도를 이어간 것으로 나타났습니다.

앤트로픽은 보고서에서 "조사 결과가 다른 개발사들이 유사한 패턴을 포착하고 정부와 시민사회가 새로운 위협의 형성 과정을 명확히 파악하며 공동 방어망을 강화하는 데 도움이 되기를 바란다"고 전했습니다.

[현서경 디지털뉴스부 인턴기자 seokyung0322@gmail.com]

MBN