AI를 전쟁에?… 거부했더니 블랙리스트, AI 윤리 논쟁 격화

앤트로픽 [AP=연합뉴스]

- 군(軍) 통제 거부한 AI는 안보 위협”… 트럼프, ‘책임’ 강조하던 앤트로픽 퇴출

- 美 국방부, 앤트로픽 ‘공급망 위험 기업’ 지정… 연방 조달망서 사실상 쫓겨나

- 앤트로픽 “살상용 활용 불가” 법적 대응 vs 정부 “민간 기업이 군 지휘권 개입 안 돼”

- ‘군사 금지’ 삭제한 오픈AI는 승승장구… AI 업계 ‘안보 협력’이 생존 갈랐다

인공지능(AI)의 ‘윤리’와 ‘사회적 책임’을 앞세우며 미 정부의 군사적 활용 요구를 거부해 온 AI 스타트업 앤트로픽이 결국 도널드 트럼프 행정부의 ‘안보 칼날’에 맞닥뜨렸다. 미 정부가 자국 첨단 기술 기업을 향해 ‘공급망 안보 위험’이라는 낙인을 찍어 퇴출에 나선 것은 극히 이례적인 일로, 기술 패권 시대에 ‘국가 안보’가 기업의 ‘윤리 규범’보다 우선한다는 준엄한 경고를 보낸 것으로 풀이된다.

◆ “감시·살상용 불가” vs “합법적 군 통제권 침해”

앤트로픽은 지난 9일(현지시간) 미 국방부와 연방 기관을 상대로 ‘공급망 리스크 지정 처분 취소’ 및 효력 정지 가처분 신청을 냈다. 앞서 미 국방부가 앤트로픽을 안보 위협 기업으로 공식 지정하고, 자사 AI 모델인 ‘클로드’(Claude)를 방산 계약망에서 퇴출하기로 한 결정에 대한 정면 대응이다.

이번 사태의 본질은 ‘AI라는 강력한 무기의 통제권을 누가 갖느냐’에 있다. 앤트로픽은 소장에서 국방부가 요구한 시스템 사용 범위에 ‘대규모 감시’와 ‘완전 자율 무기’ 등이 포함될 수 있다는 점을 문제 삼았다. 회사 측은 “인권과 민주주의 원칙을 바탕으로 한 자사의 가이드라인을 지키려는 노력을 안보 위협으로 몰아세우는 것은 전례 없는 위법이자 정치적 보복”이라고 항변했다.

그러나 미 국방부의 입장은 단호하다. 군(軍)은 모든 합법적 목적으로 기술을 활용할 권리가 있으며, 일개 민간 벤더가 군의 지휘·통제 체계에 개입하거나 용도를 일방적으로 제한하는 것은 ‘안보 침해’라는 논리다. 특히 트럼프 대통령이 행정명령을 통해 전방위적인 퇴출 압박에 나서면서, 앤트로픽은 화웨이 등 적성국 기업이나 받던 ‘공급망 위험’ 꼬리표를 달고 고립무원의 처지에 놓였다.

시장의 향방은 이미 엇갈리고 있다. 업계 선두인 오픈AI는 일찌감치 ‘군사 및 전쟁 목적 사용 금지’ 조항을 삭제하며 정부와 밀월 관계를 맺어왔다. 앤트로픽이 퇴출 위기에 몰린 시점에 오픈AI는 국방부 기밀망용 AI 구축 파트너십을 체결하며 공공 시장을 독식할 기세를 보이고 있다.

결국 이번 사태는 글로벌 AI 업계에 무거운 숙제를 던졌다. 아무리 뛰어난 기술이라도 국가의 생존과 안보라는 거대한 명분 앞에서는 기업 고유의 윤리마저 ‘선택’의 문제가 될 수밖에 없음을 보여준 것이다. 자유민주주의의 보루인 미국이 AI 주도권을 사수하기 위해 ‘자국 기업 길들이기’라는 초강수까지 둔 상황에서, 앤트로픽의 법적 투쟁이 어떤 결말을 맺을지 전 세계 기술 진영이 숨죽이며 지켜보고 있다.

◆ 앤트로픽와 오픈AI, 엇갈린 행보

미국이 화웨이 등 적성국의 통신·IT 기업을 견제하기 위해 쓰던 ‘공급망 안보 위험’ 카드를 자국 AI 스타트업에 빼든 것은 이례적이다. 트럼프 대통령이 별도의 행정명령을 통해 연방 기관 전반에 앤트로픽 기술 사용 중단을 지시하면서 퇴출 압박은 전방위로 확산 중이다.

업계 선두인 오픈AI는 앤트로픽과 엇갈린 행보를 보이고 있다. 오픈AI는 앞서 2024년 1월 서비스 이용 약관에서 ‘군사 및 전쟁 목적 사용 금지’ 조항을 삭제한 뒤 미 국방부와의 협력 폭을 넓혀왔다.

특히 앤트로픽에 대한 퇴출 압박이 최고조에 달한 시점에 오픈AI는 미 국방부 기밀망 및 작전 환경용 AI 시스템 구축을 위한 전략적 파트너십 체결을 발표했다.

기업의 자체 윤리 강령 고수 여부보다 정부의 ‘전면적 활용 보장’ 요구 수용 여부가 공공시장 진입을 결정짓는 핵심 변수로 작용한 셈이다.

◆ 한국 AI 안보도 긴장…한미 연합작전 상호운용성 과제 직면

이번 갈등은 우리나라 민·군 AI 안보 전략에도 구조적인 화두를 던진다. 미군과 연합 작전을 수행하고 정보 시스템 및 무기 체계를 공유하는 한미 동맹의 특성상 미 국방부가 벤더에 요구하는 ‘합법적 전면 사용 보장’이라는 AI 안보 기준은 국내 국방망 AI 구축에도 실질적 표준으로 작용할 수밖에 없다.

국내 플랫폼 및 AI 기업들 역시 국방·공공 조달 시장 진입 시 미국 주도의 글로벌 안보 표준 수용과 기업 자체 윤리 사이에서 엄격한 판단을 요구받게 될 전망이다.

결국 AI가 국가 전략 무기로 자리 잡은 시대에 플랫폼 기업의 윤리적 책임 범위 설정과 각국 정부의 기술 통제권 사이의 권력 조율이 글로벌 AI 생태계의 향방을 가를 핵심 의제로 떠올랐다.

김광태 기자 ktkim@dt.co.kr