이란 공습에 AI 표적 공급한 美 방산 기업 '독일·일본 재무장' 주장도
미국 방산 소프트웨어 기업 팔란티어가 최고경영자(CEO)의 저서를 요약한 22개 항목이 담긴 선언문을 통해 인공지능(AI) 무기화, 미국 내 징병제 부활, 독일·일본 재무장을 잇달아 주장하며 '기술파시즘'이라는 비판에 휩싸였다.
팔란티어는 19일(현지시각) 공식 엑스(X, 구 트위터) 계정에 자사 CEO 알렉스 카프의 저서 '기술공화국 선언'의 핵심 주장 22가지를 정리해 게시했다. 21일 기준 조회수 3000만 회를 넘긴 게시물을 두고 가디언, 알자지라, 뉴욕타임즈 등 주요 외신이 잇따라 논란을 보도했다.
팔란티어는 2003년 현 팔란티어 이사회 의장 피터 틸과 카프 CEO 등이 공동창립한 데이터분석·감시 소프트웨어 기업이다. 최고지도자 알리 하메네이 사살 등 이란 지도부 제거로 이어진 미국·이스라엘 연합의 '에픽 퓨리' 작전 전반에 미군용 AI 표적 시스템을 공급한 기업으로 이름이 알려졌다
팔란티어의 주력 상품은 전장에서 사람과 시설을 자동으로 식별해 살상 공격을 추천하는 AI 표적 플랫폼이다. 이란 공습에서 핵심 도구로 사용된 AI 표적 플랫폼 '메이븐 스마트 시스템(MSS)'이 대표적이다.
MSS는 위성 영상, 군용 드론 촬영 영상, 통신 감청 자료, 기밀 정보를 하나의 플랫폼에 통합한 뒤 알고리즘으로 차량·건물·인원을 자동 식별해 적 전력으로 분류한다. 사람이 수 시간에 걸쳐 판단하던 살상 결정을 AI가 수 초 안에 내리는 셈이다.
팔란티어가 X에 올린 선언의 핵심 주장은 "AI 무기가 만들어질지 여부가 아니라, 누가 어떤 목적으로 만들 것인지가 문제"라는 것이다. AI를 사람을 죽이는 무기로 쓰는 흐름은 이미 되돌릴 수 없으니 중국 등 경쟁국보다 미국이 먼저 만드는 게 낫다는 주장이다.
팔란티어는 빅테크 기업이 정부에게 가지는 의무에 대해서 역설했다. "실리콘밸리는 나라에 도덕적 빚을 졌다", "해병대가 더 나은 총을 요구하면 만들어줘야 하듯 소프트웨어도 마찬가지"라며 정부가 요구하면 기업은 무기든 감시 도구든 만들어 내놓아야 한다고도 주장했다.
팔란티어의 이런 주장의 뒷배경은 팔란티어의 성장 과정일 수 있다는 게 외신들의 지적이다. 실제로 팔란티어는 2003년 창립 직후 실리콘밸리 벤처캐피털들에 외면받자 미국 중앙정보국(CIA) 산하 벤처 투자 조직 '인큐텔'에게 2005년부터 약 200만 달러를 투자받으며 초기 외부 자금을 수급했다.
이후 팔란티어는 미 국방부, 연방수사국(FBI), 이민세관단속국(ICE) 등 미 정부 기관과의 계약을 축적하며 성장했고 2025년 7월 미 육군과 10년 최대 100억 달러 규모의 자사 최대 단일 계약을 체결했다.
팔란티어 기술을 두고 살상 AI의 타당성과 신뢰성 논란도 이어진다. 2월 28일(현지시간)에는 미국·이스라엘 연합군이 이란 남부의 샤자레 타예베 여학교를 미사일로 공격해 7~12세 여아 165명이 사망하고 95명이 부상을 입었다. 민주당 하원의원 120명은 3월 국방부에 팔란티어의 MSS가 학교를 표적으로 식별하는 데 사용됐는지, 사용됐다면 인간이 AI 표적의 정확성을 검증했는지 공식 질의했으나 국방부는 아직 입장을 발표하지 않았다.
선언문은 이외에도 "공짜 이메일만으로는 부족하다"며 그럴듯한 앱 만들기에 만족하는 실리콘밸리를 향한 비판에서 출발해 미국 내 징병제 부활과 2차 세계대전 패전국인 독일·일본을 재무장해야한다고 제언했다. 마지막으로 "작금 미국은 모든 문화를 평등하게 받아들이지만 특정 문화는 제 기능을 못하고 퇴행적이며 해롭다"고 진단하며 "얄팍한 다원주의를 경계해야 한다"고 선언문을 마무리했다.
발표 후 다수의 외신과 정치인, 학자로부터 비판이 쏟아졌다. 야니스 바루파키스 그리스 전 재무장관은 개인 X 계정에 "팔란티어가 핵무기 아마겟돈에 더해 AI로 인한 인류 존속 위협까지 기꺼이 감수하겠다 선언한 셈"이라며 "AI 킬러로봇이 오고 있다"고 경고했다. 독재정치 연구로 알려진 카스 무데 미국 조지아대 교수는 선언문을 "근래 본 것 중 가장 무서운 것 중 하나"라며 "유럽 국가들은 이제 팔란티어에 대한 의존을 끝내야 한다"고 밝혔다.
선언문을 두고 '기술파시즘'이라는 비판도 나온다. 기술파시즘은 빅테크 기업이 AI·감시 기술을 축적해 국가·군·정보기관과 한 몸이 되는 새로운 형태의 정치체계를 의미한다. 과학기술 철학 분야 연구자 마크 코켈버그 오스트리아 빈대 교수는 "팔란티어 선언문은 기술파시즘의 전형"이라며 "AI와 관련된 정치 제도를 민주화해야 할 필요가 있다"고 조언했다.
[임정우 기자 jjwl@donga.com]
Copyright © 동아사이언스. 무단전재 및 재배포 금지.