AI 원칙과 국가 안보의 충돌…앤트로픽과 미 국방부 사태가 던지는 질문 [한방이슈]

최근 이란을 공습한 미국의 '장대한 분노(Epic Fury)' 작전과 베네수엘라 니콜라스 마두로 대통령 체포 작전에는 흥미로운 공통점이 있습니다.

두 작전 모두 인간 지휘관의 판단 뒤에 또 하나의 '보이지 않는 참모'가 존재했습니다.

바로 인공지능, AI입니다.

전장의 수많은 표적 중 무엇을 먼저 공격할지 결정하는 역할, 그 핵심을 AI가 맡은 것입니다.

AI는 이제 단순한 보조 도구가 아니라, 군사작전의 의사결정 체계 속으로 깊숙이 들어와 있습니다.

문제는 바로 이 지점에서 시작됩니다.

전쟁의 효율성을 극대화하려는 국가 안보 논리와, 기술이 넘어서는 안 될 윤리적 경계를 지키려는 AI 기업의 원칙이 정면으로 충돌하기 시작한 것입니다.

그리고 충돌의 중심에는 앤트로픽과 오픈AI, 그리고 미 국방부의 3각 갈등이 자리하고 있습니다.

군사 작전의 뇌(Brain)가 된 AI…그리고 두 가지 '레드라인'

AI 기술은 이미 현대전의 핵심 인프라로 자리 잡았습니다.

이란과의 전쟁 초기, 미군은 '팔란티어'의 '메이븐 스마트 시스템(Maven Smart System)'을 활용해 1,000개가 넘는 타깃을 식별하고 타격 우선순위를 정했습니다.

이 시스템의 중심에서 실시간 정보 평가와 타기팅 분석을 수행한 것은 앤트로픽의 대규모 언어 모델 '클로드(Claude)'였습니다.

국방부는 2025년 7월 앤트로픽, 오픈AI, 구글, xAI 등과 각각 최대 2억 달러 규모의 '프런티어(frontier) AI' 계약을 체결했습니다.

특히 앤트로픽의 클로드는 철저한 안전성을 바탕으로 기밀망에 가장 먼저 배치되는 성과를 거두었습니다.

그러나 2026년 1월, 트럼프 행정부가 모든 군사 작전에 AI를 기본으로 통합하는 'AI 최우선 전투력' 전략을 추진하며 파열음이 발생하기 시작했습니다.

국방부는 AI의 전시 효율성을 극대화하기 위해 앤트로픽에 자체적인 안전 통제 기준을 철회하고 "모든 합법적 목적"으로 AI를 사용할 수 있도록 전면적인 접근 권한을 요구했습니다.

이에 대해 앤트로픽의 다리오 아모데이(Dario Amodei) CEO는 양보할 수 없는 두 가지 '레드라인'을 제시하며 국방부의 최후통첩을 거부했습니다.

첫째, '대규모 국내 감시'에 AI를 사용할 수 없다는 점입니다.

현재의 법망이 AI의 발전 속도를 따라가지 못하는 상황에서, 브라우징 기록이나 위치 데이터 등 방대한 상업용 데이터를 AI로 분석하여 미국 시민을 광범위하게 감시하는 것은 민주주의적 가치에 위배된다는 주장입니다.

둘째, '완전 자율 무기' 시스템에 AI를 통합하는 것을 반대했습니다.

현재의 최첨단 AI 모델조차 인간의 통제 없이 치명적인 살상 결정을 내릴 만큼 신뢰성이 완벽하지 않으며, '할루시네이션(환각 현상)'이 민간인 오폭 같은 돌이킬 수 없는 참사로 이어질 수 있다는 인식에서 비롯된 원칙이었습니다.

국방부의 전례 없는 보복…'공급망 위험' 지정과 법적 공방

국방부는 앤트로픽의 윤리적 판단에 따른 협력 거부를 국가 안보에 대한 중대한 도전으로 받아들였습니다.

피트 헤그세스 국방장관은 "앤트로픽이 군사 작전에 대해 사기업으로서 거부권을 행사하려 한다"고 비난하며, 2월 27일 앤트로픽을 '국가 안보를 위협하는 공급망 위험'으로 공식 지정했습니다.

미국 역사상 유례없는 조치였습니다.

'공급망 위험' 지정은 미국의 시스템을 사보타주, 즉 의도적으로 파괴하거나 스파이 행위를 할 우려가 있는 '적성국 기업'을 배제하기 위해 사용되던 법적 수단이기 때문입니다.

미 국방부가 자국의 선도적 혁신 기업에 이 제재를 가한 것은 사실상 기업을 파괴하려는 '권력 남용'이라는 비판이 쏟아졌습니다.

트럼프 대통령은 한 발 더 나아가 트루스 소셜을 통해 모든 연방 기관에서 6개월 내에 앤트로픽의 소프트웨어를 퇴출하라는 행정명령을 내렸습니다.

이 조치는 방산업계 전반에 패닉을 몰고 왔습니다.

록히드마틴이나 보잉같은 국방부의 주요 하청업체들은 당장 자신들의 시스템에 깊숙이 통합되어 있던 클로드를 제거해야만 정부 계약을 유지할 수 있는 처지가 되었습니다.

올해 기업공개(IPO)를 앞둔 앤트로픽에게 이는 수십억 달러의 매출 손실과 이미지 타격을 의미하는 존립의 위기였습니다.

이에 맞서 앤트로픽은 즉각 미 연방법원에 국방부와 트럼프 행정부를 상대로 소송을 제기했습니다.

흥미로운 부분은 현재 미국 정부가 이란과의 전쟁에서 작전 목표를 타격하는 데 여전히 '클로드'를 사용하고 있다는 점입니다.

국방부가 앤트로픽을 '공급망 위험'으로 지정하면서도 이란 작전에서 여전히 클로드를 활용하는 것은 현재 미 군사 AI 인프라의 '과도기적 공백'을 보여줍니다.

기존 시스템에 깊게 이식된 클로드를 즉시 제거할 경우 발생할 작전 공백이 안보 위험보다 크다는 실무적 판단 때문입니다.

즉, 이번 제재는 즉각적인 퇴출보다는 '강제적 굴복'을 이끌어내기 위한 고도의 법적 압박 수단이자, 오픈AI 등 대체재가 완전히 준비될 때까지 시간을 벌기 위한 양면 전술로 분석됩니다.

오픈AI의 개입…'순수주의'와 '실용주의'의 충돌

사실 앤트로픽은 오픈AI의 '내부 반란'에서 탄생한 회사입니다.

다리오 아모데이는 오픈AI에서 GPT-2와 GPT-3 개발을 이끈 연구 부사장이었습니다.

하지만 2021년 초 "AI가 너무 빠르게 달리고 있으며 안전에 대한 고민이 부족하다"는 문제 의식으로 여동생 다니엘라(Daniela Amodei)를 포함한 15명의 핵심 연구원들과 함께 오픈AI를 이탈해 앤트로픽을 세웠습니다.

그 창업 정신이 지금 벌어지고 있는 갈등의 뿌리라고 할 수 있습니다.

국방부와의 갈등 속에 앤트로픽이 배제되자 그 틈을 파고든 것은 경쟁사 오픈AI였습니다.

앤트로픽이 제재를 받은 바로 그날 저녁, 오픈AI의 샘 올트먼(Sam Altman) CEO는 국방부와 기밀 시스템 구축을 위한 새로운 계약을 체결했다고 발표했습니다.

올트먼은 자신들의 계약에도 앤트로픽이 요구했던 '대규모 감시'와 '자율 무기' 금지 등 동일한 안전장치가 마련되어 있다고 주장했습니다.

그러나 양사의 접근 방식에는 근본적인 차이가 있습니다.

앤트로픽이 계약서에 금지 조항을 명시하는 원칙주의를 택했다면, 오픈AI는 금지 조항을 명시하지 않는 실용주의를 택했습니다.

오픈AI는 국방부가 요구한 "모든 합법적 사용"을 수용하는 대신, AI 모델을 국방부의 자체 하드웨어에 설치하지 못하게 하고 오직 오픈AI가 관리하는 클라우드를 통해서만 쓸 수 있도록 설계했습니다.

즉, 무기에 직접 AI를 연결하는 것을 '구조적으로' 불가능하게 만들고, 비밀 취급 인가를 받은 자사 엔지니어들이 개입하여 실시간으로 오남용을 모니터링하겠다는 논리입니다.

이러한 오픈AI의 행보는 한편으로는 미국의 안보 우위를 보장하기 위한 현실적인 대안이라는 긍정적 평가를 받았지만, 다른 한편으로는 경쟁사의 위기를 틈타 정부의 위험한 AI 사용을 묵인해 주는 기회주의적인 거래라는 비판을 동시에 받았습니다.

올트먼 스스로도 직원들에게 "우리는 작전상 결정에 관여할 권한이 없다"며 군의 AI 활용을 완벽히 통제할 수 없음을 간접적으로 시인하기도 했습니다.

실리콘밸리를 뒤흔든 연대와 '가치관 인재 전쟁'

국방부와 앤트로픽의 갈등은 AI 업계 내부에서 전례 없는 지형 변화와 인재 이동을 촉발하고 있습니다.

사용자들은 윤리적 결단을 내린 앤트로픽의 행보에 뜨겁게 호응했습니다.

오픈AI의 '챗지피티(ChatGPT)'를 삭제하는 'QuitGPT' 운동이 벌어지며 챗지피티의 삭제율이 295%나 폭증했고, 반면 앤트로픽의 '클로드'는 사상 최초로 애플 앱스토어 다운로드 1위를 차지했습니다.

특히 AI 개발에 필수적인 '인재 영입전'에서도 큰 파장이 일어났습니다.

오픈AI가 국방부와 타협적인 계약을 맺었다는 소식이 전해지자, 오픈AI 로보틱스 부문의 핵심 리더인 케이틀린 칼리노브스키(Caitlin Kalinowski)와 연구 부사장 맥스 슈워처(Max Schwarzer)가 인권과 원칙 문제를 제기하며 연이어 사임했습니다.

슈워처는 아예 앤트로픽으로 이직했습니다.

칼리노브스키는 오픈AI를 그만두며 엑스(X·옛 트위터)에 이런 글을 남겼습니다.

"결코 쉬운 결정이 아니었습니다. 인공지능은 국가 안보에서 중요한 역할을 담당합니다. 하지만 사법부의 감독이 없는 미국인 감시와 인간의 승인이 없는 치명적인 자율성은 지금보다 훨씬 더 깊은 논의가 필요했던 선이었습니다. 이는 사람이 아닌 원칙의 문제였습니다."

최상위급 AI 연구원들에게 수억 달러의 연봉보다 '회사의 윤리적 원칙과 가치관'이 더 중요한 선택 기준이 되고 있음을 이번 사태가 보여준 셈입니다.

메타 등 거대 기업들의 천문학적인 연봉 제안에도 불구하고, 앤트로픽이 초기 창립 멤버와 연구진을 거의 100% 유지하고 있는 이유가 바로 그 '원칙' 때문이라고 다리오 아모데이 앤트로픽 CEO는 강조합니다.

물론 '안전 우선'을 표방하는 앤트로픽 역시 원칙과 실리라는 현실적 딜레마에서 완전히 자유로운 것은 아닙니다.

월스트리트저널은 치열해지는 AI 경쟁 속에서 최근 앤트로픽이 안전 정책을 일부 완화하기로 결정하자, 한 안전 연구원이 "현재 세상은 AI로 인해 위험에 처해 있다"고 경고하며 회사를 떠났다"고 보고했습니다.

원칙을 지키려는 앤트로픽조차 시장의 압력 앞에서 내적 갈등을 피할 수 없다는 현실을 보여주는 사례입니다.

AI 거버넌스와 민주주의의 시험대

현재 진행 중인 앤트로픽과 미 국방부의 대립은 21세기 국가 안보에서 AI의 역할과 민간 혁신 생태계의 독립성을 규정하는 이정표가 될 수 있습니다.

물론 지정학적 현실을 외면할 수는 없습니다.

알리바바, 바이트댄스 등 중국 AI 기업들이 규제의 제약 없이 군사 AI 경쟁에서 우위를 점하려는 상황에서, 오픈AI식 실용주의는 서방의 가치를 지닌 AI가 글로벌 안보의 주도권을 유지하기 위한 불가피한 선택일 수 있습니다.

그러나 트럼프 행정부가 국내 최고의 혁신 기업을 '적성국' 취급하며 강압적으로 길들이려 한 행태는, 미국 기술 산업의 핵심 경쟁력이었던 '정부로부터의 독립성'과 '신뢰 프리미엄'을 정면으로 허무는 행위입니다.

국가 안보라는 명분으로 기술을 장악하는 방식은, 미국이 그토록 경계해온 권위주의 방식을 스스로 답습하는 역설이기 때문입니다.

다가오는 3월 24일, 미국 연방법원은 중대한 판결을 내립니다.

사기업이 자사의 AI 기술을 전쟁이나 대중 감시에 사용하지 못하도록 스스로 선을 그을 권리, 이른바 'AI의 수정헌법 제1조'가 법적으로 보호받을 수 있는지를 결정하는 것입니다.

결과가 어찌 되든, 앤트로픽의 원칙주의와 오픈AI의 실용주의가 충돌한 이번 사태는 AI를 손에 쥔 국가 권력을 누가, 어떻게 견제할 것인가의 문제로 귀결됩니다.

분명한 점은 단 하나, 지금 그 답을 가진 사람은 아무도 없다는 것입니다.

기획·구성 : 김재형(jhkim03@ytn.co.kr)

제작 : 이형근(yihan3054@ytn.co.kr)

참고 기사 : 월스트리트저널, 가디언

YTN digital 김재형 (jhkim03@ytn.co.kr)

YTN digital 이형근 (yihan3054@ytn.co.kr)

※ '당신의 제보가 뉴스가 됩니다'

[카카오톡] YTN 검색해 채널 추가

[전화] 02-398-8585

[메일] social@ytn.co.kr

[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]