‘조언자’ 넘어 ‘공격 지휘자’ 된 AI… 무기 설계, 바이러스 변이 연구까지

앤스로픽, 클로드 악용 사례 공개
중·러가 이용한 계정 적발해 차단

/챗GPT 생성 이미지.

중국과 러시아 등 각국 정부 연계 조직과 범죄자들이 미국의 첨단 인공지능(AI)을 해킹과 여론 조작은 물론 미사일·자폭 드론 개발에까지 활용한 것으로 나타났다. AI가 단순히 정보를 제공하는 ‘조언자’를 넘어 코드를 작성하고 공격을 실행하는 ‘지휘자’로 진화하면서, 첨단 AI를 악용한 안보 위협도 빠르게 커지고 있다는 분석이 나온다.

미국 AI 스타트업 앤스로픽은 10일(현지 시각) 이 같은 내용을 담은 ‘AI 오용 탐지 및 대응’ 보고서를 공개했다. 지난해 12월부터 올해 8월까지 앤스로픽의 최신 AI 모델 ‘클로드’를 악용한 사례를 조사한 결과다. 앤스로픽은 재래식·생물학 무기 개발과 사이버 공격, 불법 감시 등에 클로드를 이용한 계정을 적발해 차단했다고 밝혔다.

가장 직접적인 위협은 무기 개발이었다. 앤스로픽은 중국 3건, 러시아 2건, 예멘 1건 등 재래식 무기 관련 악용 사례 6건을 확인했다. 예멘 북부의 한 무기 개발 조직은 인간 엔지니어 대신 앤스로픽의 코딩 AI ‘클로드 코드’를 투입해 유도 로켓의 비행 제어 소프트웨어를 개발했다. 사거리 2000㎞ 이상 다단식 탄도미사일과 극초음속 활공체의 비행 궤도를 모의 실험하는 작업에도 클로드가 사용됐다.

중국에서는 인민해방군 해군에 제안할 대어뢰 무기용 사격통제 소프트웨어와 200쪽 넘는 기술 제안서를 작성한 사례가 적발됐다. 또 다른 중국 연구자는 전자전과 적 방공망 제압에 사용하는 소프트웨어 모듈 약 16개를 만들고 12차례 개량했다. 러시아에서는 프리랜서 개발자들이 클로드를 이용해 사람을 표적으로 분류하고 스스로 공격할 수 있는 자율형 자폭 드론 편대의 소프트웨어를 개발했다.

생물무기로 악용될 가능성이 있는 연구도 5건 확인됐다. 한 연구자는 조류인플루엔자 바이러스가 사람을 비롯한 포유류에 더 쉽게 감염되고 공기로도 퍼지도록 변형하는 연구에 클로드를 활용했다. 클로드는 실험 방법을 짜고 결과를 분석하며 다음 실험을 정하는 일을 도왔다. 앤스로픽은 이 연구가 초기 단계였지만, 치명적인 바이러스를 만드는 데 악용될 위험이 있다고 보고 관련 계정을 차단했다.

AI가 악성 공격에 필요한 정보를 알려주는 도우미 역할을 넘어, 실제 작업을 직접 수행하고 전체 과정을 지휘하는 단계로 발전했다는 평가가 나온다. 인간이 목표만 정해주면 여러 AI 에이전트가 역할을 나눠 정보를 수집하고, 소프트웨어를 설계하며, 코드 작성·검토와 시뮬레이션, 시험 결과 분석까지 수행하는 것이다. 이들은 중국에서 차단된 클로드에 접속하기 위해 미국·일본·싱가포르 등에 있는 중개 서버를 거쳤다. 가짜 신원과 일회용 이메일, 가상·도난 신용카드, 탈취한 기업용 접속 키를 이용해 계정을 만들고, 차단되면 곧바로 새 계정으로 갈아타는 방식이었다. 앤스로픽은 “AI 모델의 능력이 강력해질수록 개발사와 사회가 안전장치를 강화하지 않으면 위험도 함께 커질 것”이라고 했다.