전쟁에 보조 안 맞추면 ‘좌파 광신도’ 기업?
미국과 이스라엘의 이란 공습 작전은 ‘AI 전쟁 시대’의 개막을 알렸다. 이번 작전에서 앤스로픽의 AI 모델 ‘클로드’는 수년간 해킹한 방대한 양의 CCTV와 통신망 데이터, 현장 정보 활동(휴민트)을 통해 수집한 자료 등을 평가하고, 표적을 식별하며, 타격 시뮬레이션을 하는 데 활용된 것으로 알려졌다. 고속도로·현관·골목 등에 설치된 수많은 카메라와 센서는 데이터 수십억 개를 만들어낸다. 여기에 핵심 정보만 신속하게 분석하는 AI 기술이 결합되면서 적대국의 지도자를 감시하고, 추적하며, 타격하는 방식이 완전히 달라졌다. 미국은 지난 1월, 니콜라스 마두로 베네수엘라 대통령 압송 과정에서도 클로드를 쓴 바 있다.
국가안보국(NSA) 법률고문을 지낸 글렌 거스텔은 3월2일자 〈뉴욕타임스〉 기사에서 “만약 우리가 사담 후세인을 정밀타격으로 제거할 능력을 갖추고 있었다면 이라크 전쟁은 없었을 것”이라며 전쟁의 성격이 이전과 완전히 달라졌음을 지적했다. 당시 미군은 전쟁 초반 몇 시간 동안 후세인을 제거하려 했지만 그는 이미 집을 떠난 상태였다.
AI가 국방 분야의 ‘전략 자산’으로 활용되는 것은 이제 놀라운 일이 아니다. 우크라이나와 러시아는 AI를 이용한 완전 자율 무기 등을 사용하고 있고, 이스라엘 역시 AI 시스템 ‘하브소라’와 ‘라벤더’ ‘웨얼스 대디’를 건물·시설·인물 표적 생성과 타격 타이밍 결정 등에 사용하는 것으로 알려졌다. 2023년 하마스와의 전쟁이 시작된 이후, 가자지구와 레바논 작전에서 AI를 대규모로 활용하고 있다.
한때 군사용 AI를 반대했던 빅테크 기업들도 태도를 바꾸고 있다. 구글은 가장 드라마틱한 변화를 보인 기업이다. 2018년, 구글은 드론 영상 분석 AI 프로젝트 ‘메이븐’에 참여했다가 직원들의 퇴사 항의에 부딪혔다. 이후 살상무기용 AI 개발 금지 원칙을 세우며 사업을 접었지만 지난해 2월, AI 원칙을 대폭 수정해 무기 개발 금지 조항을 삭제하고, 감시 기술에 대한 거부 조항도 완화했다. 페이스북·인스타그램 운영사 메타의 인공지능 모델인 라마 이용약관에는 ‘군사, 전쟁 관련 사용금지’가 명시되어 있었으나 지난해부터 ‘오픈소스 AI가 미국과 동맹국의 안보를 강화하는 핵심 자산이 되어야 한다’는 명분으로 주요 우방국 군대에 라마를 적극 개방하고 있다. 일론 머스크의 인공지능 기업 xAI는 탄생 시점부터 군사용 AI에 매우 적극적이었으며 앤스로픽이나 구글이 주저하는 ‘자율 살상 무기용 알고리즘’ 등도 국방부 요구에 맞는 모델로 제공하겠다는 입장이다.
올해 1월, 피트 헤그세스 국방장관이 텍사스주에 위치한 스페이스X를 방문해 ‘국방부 AI 가속화 전략’을 발표한 장면은 상징적이다. xAI 대표인 일론 머스크와 함께한 이 자리에서 헤그세스 장관은 “미국 국방부의 인공지능은 진보적인 사상에 얽매이지 않을 것입니다. 우리(미군)를 위해 일할 것입니다. 우리는 아이비리그 교수 휴게실에서나 쓸 챗봇이 아니라, 전쟁에 바로 투입될 수 있는 무기와 시스템을 만들고 있습니다”라고 말했다.
흥미로운 점은 이들이 원하는 군사용 AI의 모습이다. “다양성·형평성·포용성(DEI) 및 사회정의 관련 용어들이 AI 기술 활용을 제약하고 혼란스럽게 만들던 시대는 이제 끝났습니다. (···) 우리는 전쟁 수행을 방해하는 AI 모델을 사용하지 않을 것입니다(피트 헤그세스).” 트럼프 대통령이 서명한 행정명령 14319호, 즉 ‘연방정부의 깨어 있는 AI 도입 방지’가 지향하는 바와 같다. 트럼프를 비롯한 그의 추종 인사들은 앤스로픽을 포함한 실리콘밸리 기업들이 내세우는 ‘AI (안전) 가이드라인’을 ‘첨단기술에 가미된 워키즘(Wokeism·깨어 있음)’이라고 비난하며, 이런 관점이 미군을 약하게 만들고, 엘리트들의 ‘PC주의(정치적 올바름)’를 이용자에게 세뇌시킨다고 본다.
앤스로픽은 오픈AI 멤버 중 인공지능 규제를 전면적으로 거부하는 ‘효율적 가속주의’와 반대되는 ‘효율적 이타주의’를 지지하는 이들이 퇴사 후 만든 기업으로, AI의 안전성과 윤리적 책임을 중요한 과제로 삼는다. 게다가 바이든 행정부에서 일했던 인사들이 퇴임 후 앤스로픽에 입사한 것마저 트럼프 행정부에는 눈엣가시였다. 다리오 아모데이 대표의 정치적 성향이 최근 갈등의 원인이라는 분석도 나왔다.
‘진보적 사상’에 얽매이지 않는 군사용 AI?
앤스로픽과 미국 국방부의 긴장이 파국으로 치달은 것은 2월27일(현지 시각). 이란 공습 하루 전날이다. 이날 트럼프 행정부는 앤스로픽을 ‘공급망 리스크 기업’으로 지정하고 모든 연방기관에서 앤스로픽 기술 사용을 중단하도록 하겠다고 말했다. 앤스로픽과 미국 국방부는 2억 달러 규모의 계약 체결을 앞두고 협상을 진행하고 있었는데, 협상 마감일인 2월27일까지 양측이 합의에 이르지 못하자 국방부가 극단적인 제재 결정을 내린 것이다. 그래 놓고 다음 날, 클로드를 이란 공습에 이용했다. 미국 군사력이 AI 시스템에 얼마나 깊숙이 의존하고 있는지를 보여주는 역설적인 장면이다.
중국의 화웨이와 ZTE, 러시아의 카스퍼스키 랩 등 적대국 기업에만 적용해온, 미국 기업에 단 한 번도 적용한 적 없는 ‘공급망 리스크 기업’에 앤스로픽을 지정한 것은 ‘기행’에 가깝다. 앤스로픽은 미국 정부의 기밀 네트워크에 모델을 배포한 최초의 기업이자, 미국 국방부와 독점 계약을 맺고 사이버·전투 작전 지원 등 핵심 분야에 광범위하게 사용되고 있는 유일한 기업이다.
심지어 국방부는 협상을 종용하며, 결렬 시 ‘국방생산법(Defense Production Act)’을 발동해 앤스로픽이 국방부에 클로드 사용을 제한 없이 제공하도록 강제할 것이라는 압박도 했다. 국방생산법은 전시 또는 국가 비상사태 시 대통령에게 민간기업에 대한 통제권을 부여하는 법이다.
미국 국방부와 앤스로픽이 협상을 타결하지 못한 가장 큰 이유는 앤스로픽이 주장한 두 가지 조건 때문이었다. 미국 국방부는 군사작전에 제한 없이, 합법적인 모든 용도에 AI 기술을 활용하고자 했지만 앤스로픽은 ‘인간의 개입 없는 완전 자율형 살상 무기 개발’과 ‘미국인에 대한 대규모 감시’에는 인공지능을 사용해서는 안 된다는 입장을 고수했다. 트럼프 대통령은 국방부의 요구를 거부한 앤스로픽을 ‘좌파 광신도 기업’이라 부르며 “그들은 국방부가 헌법 대신 자신들의 이용약관을 따르도록 강요하려 한다”라고 비난했다.
하지만 앤스로픽 측은 자신들의 요구 조건이 정부의 군사주권을 기업이 침해하려는 의도가 아니라고 설명한다. 2월28일 CBS 뉴스에 출연한 다리오 아모데이 앤스로픽 대표는 “두 가지 레드라인을 넘는 것은 오히려 미국적 가치에 반하는 일이다”라며 이렇게 반박했다. “대규모 국내 감시라고 할 수 있는, 정부가 미국인들의 위치·개인정보·정치 성향 같은 대량 데이터를 사들여 AI로 분석하는 것이 지금 법적으로 가능한 이유는 의회가 제정하는 법이 기술의 속도를 따라오지 못하기 때문일 수 있다. 장기적으로는 의회가 기술 진전에 맞춰 법을 정비해야 한다. 하지만 의회는 빠르게 움직이지 않고, 우리는 최전선에서 기술의 변화를 보고 있다.” 현행법에 따르면 대규모 감시가 불법이 아닐 수 있지만, 그것은 지금껏 존재한 적 없던 행위의 위험을 법이 선제적으로 막을 수 없기 때문이라는 뜻이다. 아모데이 대표는 법적 공백이 ‘허가’를 뜻하는 것이 아니라고 주장하면서, 앤스로픽이 지키려는 두 개의 조항은 ‘정부로부터 감시받지 않을 권리’ ‘전쟁의 결정을 인간이 내릴 권리’라는 본질적인 가치를 담고 있다고 말한다.
앤스로픽과 미국 국방부의 갈등은 AI 전쟁 시대의 개막에 즈음해 벌어진 암시적인 사건이다. 전쟁에 AI를 사용하는 것은 이미 널리 퍼져 있는 미래다. 이번 논란은 법이 기술을 따라가지 못한 무법의 전쟁터에서 군사용 AI가 안보와 주권이라는 명분 아래 정치적 도구가 될 수 있음을 말해준다. 정치 전문 매체 〈폴리티코〉는 이번 갈등을 두고 이렇게 분석했다. “이러한 첨단기술조차 워싱턴을 병들게 하는 양극화와 문화전쟁에 휘둘릴 위험이 있음을 보여주었다.”
김다은 기자 midnightblue@sisain.co.kr
▶좋은 뉴스는 독자가 만듭니다 [시사IN 후원]
©시사IN, 무단전재 및 재배포 금지
Copyright © 시사IN. 무단전재 및 재배포 금지.