트럼프, 앤트로픽 인공지능 사용 금지 명령

도널드 트럼프 미국 대통령이 27일(현지시간) 인공지능 기업 앤트로픽을 블랙리스트에 올리기로 결정했다고 미 매체 Axios가 보도했습니다.

앤트로픽은 자사 인공지능 모델 ‘클로드’를 대규모 국내 감시나 인간의 개입 없이 발사되는 무기 개발에 활용할 수 있도록 모든 안전장치를 해제하라는 미 국방부 요구를 거부해 갈등을 빚어왔습니다.

미국 정부의 블랙리스트 지정은 통상 외국 기업을 대상으로 이뤄지는데, 자국 기업을 포함한 것은 매우 이례적인 조치로 평가됩니다.

미 국방부는 최대 2억 달러 규모의 앤트로픽과의 계약을 파기하고, 협력 업체들에 해당 업무 흐름에서 클로드를 사용하지 않도록 의무화할 계획입니다. 앤트로픽은 다른 정부 사업에서도 배제될 예정입니다.

이에 따라 국방부와 관련 기관, 다른 연방 정부 기관들은 6개월 안에 클로드 사용을 정리해야 합니다.

클로드는 현재 군 기밀 시스템에 사용되는 유일한 인공지능 모델로, 과거 니콜라스 마두로 베네수엘라 대통령 체포 작전과 이란 관련 군사 작전 검토 과정에서도 활용됐던 것으로 전해졌습니다.

국방부 당국자들은 클로드의 성능을 높이 평가하면서도, 이를 배제하는 것이 “상당히 복잡하고 어려운 작업”이 될 것이라고 인정했습니다.

이번 조치로 군과 민감한 업무를 수행하며 클로드를 활용해 온 인공지능 소프트웨어 기업 팔란티어도 다른 인공지능 업체와 계약을 맺어야 할 가능성이 커졌습니다.

국방부는 지난 25일 밤 앤트로픽에 서면 최후통첩을 보내 군이 “모든 합법적 목적”에 기술을 사용할 수 있도록 허용하라고 요구했습니다.

그러나 다리오 아모데이 앤트로픽 최고경영자는 공개 성명을 통해 “양심상 동의할 수 없다”고 밝혔습니다.

이에 대해 인공지능 기업들과 협상을 담당해 온 에밀 마이클 미 국방장관 보좌관은 아모데이를 강하게 비판했습니다.

국방부는 무엇이 대규모 감시나 자율 무기에 해당하는지에 대해 회색 지대가 존재하며, 개별 사례를 일일이 다투는 것은 현실적으로 어렵다는 입장을 내놨습니다.

한편 일론 머스크의 인공지능 기업 xAI는 최근 군 기밀 시스템에 자사 모델 ‘그록’을 사용하는 계약을 체결했습니다. 다만 그록이 클로드를 완전히 대체할 수 있을지는 미지수라는 평가가 나옵니다.

구글의 ‘제미나이’와 오픈AI의 ‘챗GPT’도 국방부와 협상을 이어왔습니다. 그러나 양사 직원 수백 명은 앤트로픽의 입장을 지지하는 청원에 서명한 것으로 알려졌습니다.

샘 올트먼 오픈AI 최고경영자는 26일 밤 직원들에게 보낸 메모에서 감시와 자율 무기에 대한 금지선은 유지하되 국방부와의 계약은 희망한다는 입장을 밝혔습니다.