클로드, 이란 공습서 활약...군사용 AI 확산에 딜레마

AI 빅테크 대다수 "AI, 군 작전에 사용 환영", 앤스로픽은 "첨단 무기 사용 반대"

[사진=연합뉴스]

미국과 이스라엘의 이란 공습에서 인공지능(AI)이 핵심 역할을 한 것으로 확인되면서 전쟁 무기로서의 AI 기술 확산에 우려를 나타내는 목소리가 커지고 있다.

3일 IT 업계에 따르면 지난달 28일부터 3월 초에 걸친 이란 공습 작전에서 미 국방부는 앤트로픽의 클로드 AI 모델을 활용해 정보 평가, 목표물 식별, 전투 시나리오 시뮬레이션을 수행했다. 

앤트로픽은 클로드 AI의 군사적 사용을 제한하겠다는 방침을 밝힌 바 있다. 이러한 이유로 도널드 트럼프 대통령은 앤트로픽을 국가안보 위협으로 지정하고 연방기관의 사용을 금지했다. 하지만 막상 전쟁이 시작되자 클로드는 이란 핵 시설과 군사 목표 분석 과정에서 인간 분석가의 작업을 보완한 것으로 알려졌다.

이스라엘군 역시 AI 시스템인 합소라와 라벤더를 사용해 표적 생성과 우선순위화를 진행한 것으로 전해진다. 이스라엘의 경우 2023년부터 가자지구와 레바논 작전에서 AI를 활용해왔다. 라벤더 시스템은 소셜미디어 데이터와 위성 이미지를 분석해 잠재적 표적을 자동 생성하며, 팔란티어 플랫폼과 연계돼 타격 계획을 최적화한다. 이스라엘군은 AI가 작전 효율성을 높였다고 평가하지만, 민간인 피해 가능성을 지적하는 보고서가 나온 바 있다.

AI의 군사 목적 활용 확대에 윤리적 문제는 꾸준히 제기되고 있지만 세계 각국의 군사 목적 AI 활용은 매년 확산되는 추세다.

오픈AI는 모든 합법적 용도를 허용하는 입장으로 사실상 AI의 군사 목적 활용을 방치했다. 구글은 2018년 군사용 AI 프로젝트 ‘메이븐’에서 철수하며 군사용 AI를 반대했으나, 지난해 2월 AI 원칙을 수정해 무기 개발과 피해 유발 기술의 사용을 허용했다. 지난해 7월에는 미 국방부와 2억 달러 규모 계약을 체결해 국가 안보 임무를 위한 AI 워크플로 개발을 지원한다.

xAI는 군사용 AI에 적극적이며, 미 국방부와도 계약을 체결한 상태다. xAI는 펜타곤의 안전 제한 해제 요구에 동의한 첫 기업으로 알려져 있으며, 자율 무기나 감시에 대한 명확한 금지 정책은 발표되지 않았다.

메타는 2024년 초 군사용 AI를 반대했으나, 2024년 11월 정책을 변경해 라마 모델의 군사용을 허용했다. 이는 미국 및 동맹국 국방부에 적용됐다. 자율 무기나 감시에 대한 제한은 명시되지 않았으나, 오픈소스 특성상 사용 통제가 제한적이다. 마이크로소프트와 아마존 역시 군사용 AI를 허용하는 입장으로 미 국방부와의 장기 계약을 체결한 상태다.

국내에서도 국방부와 방위사업청(DAPA), 국방과학연구소(ADD)가 AI 기업들과 협력해 국방혁신 4.0 계획 아래 AI 기반 무기체계 전환을 추진 중이다. 특히 지난해부터는 온디바이스 자율 제어 시스템을 탑재한 무인기 등 개발에 속도를 내고 있다. 현재 주요 AI기업 중에서는 앤스로픽만이 클로드의 이란 공습 사용에도 AI의 군사적 사용에 강력히 반대하는 상황이다. 

다리오 아모데이 앤스로픽 CEO는 펜타곤과의 군사용 AI활용 논쟁과 관련한 성명을 내고 “우리는 오늘날의 최첨단 AI 모델이 완전 자율 무기에 사용될 만큼 신뢰할 수 없다고 믿는다”며 “현재 모델을 그런 방식으로 사용하면 미국 전사들과 민간인들을 위험에 빠뜨릴 수 있다”고 강조했다.