美 국방부, ‘무기화 거부’ 앤스로픽에 최후통첩…심화하는 AI 윤리 갈등

다리오 아모데이 앤스로픽 최고경영자(CEO). /AFP 연합뉴스

피트 헤그세스 미국 국방부 장관이 인공지능(AI) 기업 앤스로픽에 군의 AI 모델 사용과 관련한 안전장치를 철회하지 않으면 계약 취소 등 강제 조치를 가하겠다고 경고했다.

헤그세스 장관은 24일(현지 시각) 오전 국방부에서 다리오 아모데이 앤스로픽 최고경영자(CEO)를 만나 오는 27일을 데드라인으로 제시했다고 미 월스트리트저널(WSJ)이 보도했다. 국방부는 앤스로픽이 미군과 협업하면서 좀 더 유연성을 보여주지 않는다면 이 회사를 ‘공급망 위험’ 업체로 지정하거나, 국방물자생산법(DPA)을 적용해 펜타곤과 보다 협력적으로 일할 수 있도록 강제하겠다고 했다. 공급망 위험 업체로 지정되면 미 국방부와 거래하는 모든 계약·공급업체는 미군과 협업 업무에서 앤스로픽의 AI 모델 ‘클로드’를 사용할 수 없다. 국방물자생산법은 주로 국가 비상 상황에서 에너지나 보건의료와 같은 필수 분야로 국한해 활용해왔다. 두 가지 모두 극히 이례적인 경고다.

갈등의 핵심은 AI의 군사적 활용 범위다. 국방부는 앤스로픽의 AI 모델을 ‘합법적인 모든 용도’에 제한 없이 사용해야 한다는 입장이다. 군사적 활용 권한을 전면 개방하라는 것이다. 반면 앤스로픽은 미국인 대상 대규모 감시나 완전 자율 무기에는 자사 모델을 사용해선 안 된다고 맞서고 있다. 이날 면담에서도 헤이그스 장관은 앤스로픽의 AI 모델을 모든 합법적 용도에 미군이 활용할 수 있도록 허가할 것을 요구했지만, 아모데이 CEO는 회사 측 ‘레드라인’을 고수하는 것이 펜타곤 작전에 지장을 초래하지 않는다고 주장한 것으로 전해졌다. 결국 두 사람의 대화는 이견을 좁히지 못한 채 끝났다.

앤스로픽의 클로드는 미군의 가장 민감한 업무에 사용되는 유일한 AI 모델로 알려져 있다. 실제로 국방부는 지난달 니콜라스 마두로 베네수엘라 대통령 체포·압송 작전에서도 ‘클로드’를 활용한 것으로 전해졌다. 하지만 이번 갈등을 계기로 국방부는 일론 머스크의 xAI의 ‘그록’을 기밀 시스템에 활용하는 내용의 계약을 체결했다. xAI는 모든 합법적 용도의 군사적 이용에 동의한 것으로 전해졌다.

AI 기술이 국가 안보 영역까지 확장되는 가운데 AI 기업과 정부 간 윤리를 둘러싼 갈등이 첨예해지고 있다는 분석이다. AI가 군사 전략의 핵심 자산으로 부상하면서 이 같은 의견 충돌이 더욱 잦아질 수 있다는 것이다. 앤스로픽은 “국가 안보 임무를 지원할 수 있도록 성실하게 논의하고 있다”면서도 안전 기준 완화에 대해서는 구체적 언급을 피했다.