AI로 이란 폭격하면서…美 "그 회사 퇴출시킬것" 소송전 왜

해외 전장에서 여전히 '인공지능(AI) 미군'을 이끄는 한 축인 앤스로픽이 정작 본국에선 미국 국방부(전쟁부)의 타도 대상으로 전락해 기약 없는 법적 전면전으로 내몰리고 있다. 미 국방부 측이 합의 가능성을 공개적으로 일축하면서다.

미 국방부(전쟁부)와 앤스로픽 로고. 로이터=연합뉴스

미 국방부 최고기술책임자(CTO)인 에밀 마이클 연구공학 담당 차관은 12일(현지시간) CNBC 인터뷰에서 앤스로픽과의 합의 가능성을 묻는 질문에 "불가능하다"며 "앤스로픽이 기밀 정보를 언론에 유출하고 협상을 불성실하게 이끌었다"고 밝혔다. 소송전을 장기전으로 끌고 가겠다는 의미로 풀이된다.

━

소송전으로 번진 갈등…"수십억 달러 피해 우려"

해당 갈등은 앤스로픽이 자사 AI를 자율무기·대규모 감시에 사용할 수 없도록 국방부와 계약에 명시한 게 발단이었다. 국방부는 이를 거부했고 도널드 트럼프 미 대통령은 연방 기관 전체에 앤스로픽 기술 사용을 즉각 중단하라고 지시했다.

이에 앤스로픽은 캘리포니아 연방법원에 국방부를 상대로 소송을 제기했다. 국방부가 앤스로픽을 공급망 위험으로 지정하고 트럼프 대통령이 조치에 나선 게 위헌적 보복이라면서다.

앤스로픽은 워싱턴DC 항소법원에 공급망 위험 지정 중단을 요청하는 가처분도 신청했다. 앤스로픽은 이번 조치로 2026년 한 해에만 수억 달러에서 수십억 달러에 달하는 매출 손실이 발생할 수 있다고 주장하며 이미 100곳 이상의 기업 고객이 공급망 위험 지정 관련 문의를 해왔다고 밝혔다.

이란 테헤란에서 12일(현지시간) 폭격으로 파손된 건물. 신화통신=연합뉴스

━

"공급망 오염시키는 기업 받아들일 수 없어"

마이클 차관은 이날 특히 "앤스로픽의 자체 AI 운용 지침인 헌법과 핵심 가치가 모델에 내재돼 공급망을 오염시킨다"며 "이것이 공급망 위험 지정의 진짜 이유"라고 강조했다. AI 모델 자체에 앤스로픽의 철학이 각인돼 있어, 군이 이 모델을 쓰는 순간 민간 기업의 판단 기준이 군사 시스템 안으로 그대로 흘러들어온다는 논리다.

마이클 차관은 보잉이 전투기를 제조하는 사례를 들어 "모델이 불안해하며 올바른 답을 제공하지 않거나 회사 창립자들이 원하는 방식으로 환각 현상을 일으키면 우리가 구매하는 제품을 손상시킬 수 있다"고 지적했다. 또 "앤스로픽은 자신들의 모델이 자의식을 갖고 결정을 내릴 확률이 20%라고 한다"며 "우리가 그런 모델을 공급망에 둘 수 있나"라고 반문하기도 했다.

국방부가 이 같은 위험을 인지하고도 앤스로픽을 즉각 퇴출하지 못하는 이유에 대해서는 전임 정부의 책임을 거론했다. 마이클 차관은 "전임 바이든 행정부의 행정명령에 따라 (앤스로픽의 클로드가) 선호 모델로 선정됐기 때문"이라며 "현재 국방부 시스템에 깊이 내재돼있어 하루아침에 뿌리 뽑기 어렵다"고 말했다. 이밖에 "바이든 행정부 시절 만들어진 클로드 사용 제한 지침만 25쪽 분량에 달했다"고 불만을 토로하기도 했다.

이란 미사일이 13일(현지시간) 이스라엘을 향해 날아가고 있다. 로이터=연합뉴스

그러나 국방부와 앤스로픽 사이에서 클로드를 군에 납품해온 알렉스 카프 팔란티어 최고경영자(CEO)는 이날 CNBC에 "앤스로픽을 단계적으로 제거할 계획이지만 아직 퇴출당한 것은 아니다"라고 말했다. 전직 해군 정보장교 출신의 브래드 카슨 전 국방부 차관보도 "은퇴한 장교들과 얘기해보면 이번 (국방부의) 결정에 불만이 있다"며 “군은 클로드를 신뢰할 수 있고 작전 계획에 녹여내기 쉬운 제품으로 보고 있다"고 말했다. 국방부가 공급망 위험 기업으로 낙인찍은 회사의 AI가 현재진행형으로 미군 시스템에 살아있고 미군이 이를 갑자기 뽑아내는 것 자체가 부담이라는 뜻이다.

━

"나흘에 2000개 목표 타격"…AI가 바꾼 킬체인

이 같은 역설적 상황의 배경엔 미군의 깊어진 AI 의존도가 있다. 영국 파이낸셜타임스(FT)는 12일 "미국이 이란을 상대로 벌인 이번 작전에서 팔란티어의 메이븐 스마트 시스템과 앤스로픽의 클로드가 실시간 데이터 분석 장치로 활용됐다"고 보도했다.

개전 나흘 만에 2000개 이상의 목표물을 타격한 전례 없는 속도가 이 시스템들로 가능했다는 의미다. 2014년 미 주도의 연합군이 이라크와 시리아에서 이슬람국가(ISIS)를 상대로 첫 6개월 동안 2000개의 목표물을 타격했던 것과 비교하면 상상 이상의 속도전이다. FT는 방산 전문가를 인용해 "목표 식별부터 타격, 피해 평가까지의 전 과정을 뜻하는 '킬체인'이 전통적으로 시간 또는 날짜 단위로 계산됐지만 AI를 통해 초 단위로 단축됐다"고 분석했다.

━

속도전 이면…통제 불능의 위험

하지만 FT는 AI가 주도하는 전레 없는 타격 속도전이 통제 불능의 위험을 안고 있다는 우려도 전했다. 이란 남부 미나브의 한 여자 초등학교에 대한 오폭이 그런 예다. 익명을 요구한 전직 미군 고위 당국자는 FT에 "그 학교는 수년 전부터 타격 목록에 있었던 것 같은데 이게 걸러지지 않았다"며 "AI가 이론적으로는 이런 오류를 잡아낼 수 있다고 믿고 싶지만 전투는 기술이 설계한 것처럼 깔끔하지 않다"고 지적했다.

공습으로 파괴된 이란 초등학교 잔해와 구조대원들. 로이터=연합뉴스

제시카 도시 위트레흐트대학 연구원은 "초당 3700만 번의 연산을 수행하는 시스템의 베일을 어떻게 벗길 수 있겠냐"며 "이 시스템이 만들어낸 결정을 놓고 인간의 판단을 의미 있게 행사하기 쉽지 않다"고 말했다.

이근평 기자 lee.keunpyung@joongang.co.kr