AI 자율살상무기체계 전면 등장… ‘미나브 오폭’은 그저 학습 데이터일 뿐이다[양정대의 전쟁(錢爭)외교 시대]

<33> ‘AI 살상무기 시대’와 방산외교
美 ‘메이븐 스마트 시스템’ 플랫폼
정보 통합 분석 몇 분 내 타격 계획
AI가 본격 설계·주도한 최초 전쟁
AI 방산 생태계 팽창 최대 문제는
참혹한 작전 실패, 윤리 논의 실종
알고리즘 고도화 활용에만 머물러
AI 무기 국제적 규범 논의는 답보
앞장서야 할 미·중·러 등 강대국들
무기 시스템 주도권 선점에만 몰두

2월 28일 미국과 이스라엘의 공습으로 이란 미나브시 여자초등학교에서 대다수 어린 학생들을 포함한 165명의 사망자가 발생했다. 사진은 장례식 도중 애도객들이 무덤을 파고 있는 모습. 미나브=AFP 연합뉴스

미국·이스라엘은 이란 공습 첫날인 2월 28일 하루에만 1,000여 개의 표적을 타격했다. 단시간에 이란 최고위층 40여 명의 목숨을 빼앗고 주요 군사시설을 무력화한 그 중심에 인공지능(AI)이 있었다. 속도·규모·효율성 측면에서 정보의 취합과 분석과 판단의 전 과정이 과거 전쟁과는 전혀 달랐다. 이스라엘이 팔레스타인을 겨냥해 처음 활용한 치명적 자율살상무기체계(LAWS)가 러시아·우크라이나 전쟁을 거쳐 이번에 사실상 전면화했다는 평가가 나온다.

‘AI 살상무기 시대’의 상징은 그러나 오폭의 참혹함과 알고리즘의 냉혹함을 통해 각인됐다. 사망자 165명 대다수가 어린 학생인 이란 미나브시 여자초등학교 오폭 참사의 원인 중 하나로 10년 전 데이터의 입력이 꼽혔다. 그사이 군사시설 건물이 학교로 바뀐 사실을 알 리 없었을 AI 시스템에 이 비극은 다음 알고리즘의 정확도를 높이기 위한 피드백 차원의 데이터일 뿐이었다. 인간의 통제 제도화 논의가 걸음마조차 떼지 못한 상황에서 본격화한 AI 살상무기 사용으로 인간의 존엄성 자체가 시험대에 올랐다.

‘킬 체인’을 장악한 알고리즘

미군은 2017년 드론과 정찰자산이 수집한 방대한 영상데이터를 AI로 분석해 공격 대상을 식별하는 ‘프로젝트 메이븐’을 도입했다. AI를 군사작전에 도입한 최초 사례였다. 구글이 내부 반발로 이듬해에 계약을 포기하며 흔들렸지만, 이후 팔란티어 테크놀로지스를 중심으로 정교하게 진화했다. 이번 공습에서 AI는 정보 수집, 표적 식별, 타격 우선순위 결정, 공격 시나리오 시뮬레이션 등 ‘킬 체인’의 전 과정을 주도했고, 인간의 역할은 승인 버튼에 한정됐다. AI가 본격적으로 설계하고 주도한 첫 전쟁이었다.

지난달 31일 레바논 베이루트 공항 도로 인근 건물이 이스라엘의 공습으로 폭발과 함께 연기가 치솟고 있다. 베이루트=AP 연합뉴스

핵심적인 역할을 한 건 ‘메이븐 스마트 시스템’이었다. 팔란티어가 미국 전쟁부와 13억 달러(약 1조9,245억 원)에 계약한 이 플랫폼은 위성이미지, 레이더, 인간정보원 데이터, 드론 영상 등을 실시간으로 통합 분석해 정보요원들이 길게는 수일에 걸쳐 수립하던 타격 계획을 몇 분 만에 완료한다. 여기에 자연어 인터페이스로 연동된 앤스로픽의 AI 모델 ‘클로드’가 방대한 이란 관련 데이터를 스캔해 타격 후보를 생성하고 우선순위를 매긴다.

이스라엘군이 AI 표적 선정 시스템 ‘라벤더’와 ‘하브소라’를 실전에 공식 투입한 건 2023년 가자지구 침공 때이지만, 전문가들은 그 이전부터 사용한 것으로 보고 있다. 이들 시스템은 수천 개의 타격 대상을 자동 생성해 우선순위를 매기는데, 이에 대한 정보장교의 검토 시간은 평균 20초다. 이스라엘군은 “최종 결정은 지휘관이 독립적으로 내린다”고 주장하지만, 사실상 AI의 결정에 대한 형식적 추인에 불과하다는 비판이 많다.

AI 살상무기 시스템의 자율성은 세 단계로 구분된다. AI의 표적 판단·선정 과정 전반을 인간이 관장하는 휴먼인더루프(Human-in-the-Loop), AI가 표적을 선정하되 인간이 필요시 개입·수정하는 휴먼온더루프(Human-on-the-Loop), 인간의 개입 없는 완전자율의 휴먼아웃오브더루프(Human-out-of-the-Loop) 등이다. 메이븐 시스템과 라벤더는 휴먼‘인’더루프를 지향했다가 현실적인 이유를 들어 휴먼‘온’더루프로 궤도를 수정했는데, 실제로는 완전자율을 용인한다는 지적을 받는다. 미군의 자폭형 자율 드론 ‘루카스’는 휴먼아웃오브더루프의 대표 사례다.

빅테크와 방산의 경계 해체

AI 열풍과 군사화의 교차점에서 가장 큰 수혜를 보는 건 단연 테크기업들이다. (본보 2025년 7월 5일자 13면 ‘테크경제-전쟁경제 벽 허물어진다’) 팔란티어는 2022년 러우전쟁과 2023년 가자전쟁을 경과하며 급성장했고, 중동 정세가 격화한 지난해부터 ‘국방 AI 슈퍼 사이클’에 올라탔다. 오픈AI는 앤스로픽이 미국 전쟁부의 ‘무제한 군사 활용 권한’ 요구를 거부하며 2억 달러 규모 계약을 파기한 2월 27일 당일 그 자리를 꿰찼다. 도널드 트럼프 2기 행정부는 올해 연방예산 초안에 AI 살상무기 자율시스템 분야에만 134억 달러를 배정했다. 전쟁부는 150억 달러 규모의 첨단 분석 및 머신러닝 조달 계약 발주도 예고했다. 실리콘밸리는 황금시장이 된 AI 방위산업 선점을 위한 전쟁터가 됐다.

AI 자율방어 운영체제 ‘래티스’로 전쟁을 ‘설계’하는 안두릴 인더스트리즈는 미국 AI 방산의 또 다른 상징격이다. 이 회사는 드론, 감시 타워, 잠수정 등을 네트워크로 연결해 위협을 탐지하고 대응하며, 인간의 역할은 시스템 온오프에 국한된다. 지난해 305억 달러이던 기업가치는 이번 전쟁 발발 이후 600억 달러로 치솟았다.

지난해 방산·테크 스타트업에 유입된 벤처자금은 사상 최대치인 491억 달러로 전년 대비 80% 늘었다. 순수 군사분야로 한정하면 같은 기간 73억 달러에서 179억 달러로 145%나 폭증했다. 투자자들은 전쟁이 계약을 만들어내고 해당 기업은 더 효율적인 AI 살상무기를 만들어낼 거란 기대에 기꺼이 베팅을 하고 있다.

안두릴 인더스트리즈가 개발한 미국 공군의 차세대 고속 드론 '퓨리'. 안두릴 홈페이지 캡처

AI 방산 생태계의 급격한 팽창이 내포한 가장 심각한 문제는 전쟁이 직접적·효율적 학습 자원으로 변질됐다는 점이다. 실전에서 수집된 전장 데이터가 AI 모델 고도화의 자원이 되는 것이다. 러우전쟁과 가자전쟁과 이번 미국-이란 전쟁 모두에서 작전 실패와 인명 피해는 참혹한 전쟁을 끝내야 할 윤리적 계기가 아니라 다음 알고리즘의 정확도를 높이기 위한 피드백 데이터다. 인간의 죽음을 가장 유용한 데이터로 활용하고 있는 셈이다.

인간됨의 최저선에 대한 질문

2024년 12월 유엔총회에서 LAWS 규제 논의 촉구 결의안이 채택됐지만, AI 살상무기를 둘러싼 국제적 규범 논의는 답보 상태다. 무엇보다 논의를 주도해야 할 미국·중국·러시아 등 강대국들이 AI 살상무기 시스템 구축을 통한 주도권 선점에 몰두하고 있다. 이번 전쟁에서 보듯 AI 살상무기의 경우 아직까지는 냉전 당시 핵 군비 통제를 이끌어낸 상호확증파괴(MAD) 같은 공포의 균형이 손에 잡히는 상황이 아니다.

AI 살상무기에 핵무기의 우라늄 농축 시설이나 화학무기의 특정 전구체 물질 같은 물리적 통제 대상이 없다는 점도 난제다. 전 세계에 산재해 있고 개인도 접근 가능한 코드와 데이터와 컴퓨팅 파워로 만들 수 있는 데다 챗GPT와 표적 선정 AI 간 실질적인 기술적 경계도 없다. 인간이 최종 결정권을 갖거나 판단력을 개입시킬 여지가 거의 없다는 점도 규범 제정을 어렵게 만든다. 게다가 딥러닝 기반 AI의 ‘블랙박스 특성’상 의사결정 과정을 완벽히 추적하는 건 애당초 불가능하다. 미국·이스라엘이 미나브 오폭 참사를 뻔뻔하게 외면하며 전쟁범죄의 개념마저 무력화시키는 이유다.

8일 이스라엘 북부 상공에서 이란의 집속탄 미사일이 폭발하고 있다. 이스라엘=AP 뉴시스

AI 살상무기 규제 논의의 틀을 재구성해야 한다는 지적이 그래서 나온다. 어떻게 규제할 것인지가 아니라 인간의 생사여탈권을 기계에 위임할 것인지가 본질이라는 것이다. 현재로선 강대국 합의에 의한 구속력 있는 조약은 기대난망이다. 중견국 연대, 시민사회의 국제적 압력, 인도주의적 피해 증거 등이 지구촌 여론을 끌어낸 대인지뢰금지협약(1999년)과 집속탄금지협약(2008년)이 하나의 경로일 수 있다. 프로젝트 메이븐에 대한 구글 직원들의 반발, 앤스로픽의 무제한 군사 활용 요구 거부 등도 인간됨의 최저선을 지킬 수 있는 해법의 또 다른 단초다.

AI 표준 경쟁과 방산외교

주요국 간 AI 기술 표준 경쟁의 한 축에 군사 기술이 있다. 군의 킬 체인을 운용하는 AI 플랫폼의 글로벌 확장 여부가 기술 패권과 맞닿아 있어서다. 또 전차·전투기·함정 같은 무기와 함께 이를 통제하는 AI 소프트웨어 판매가 핵심 상품이 됐다. 글로벌 방산 시장이 소프트웨어와 AI 중심으로 재편되면서 비대칭 전력 확보 경쟁으로 이동한 것이다.

이러한 변화는 새로운 종속 구조를 낳는다. A국이 B국으로부터 AI 기반 드론 시스템을 구매하면 A국의 군은 표적 식별 기준, 위협 분류 방식, 우선순위 결정 논리 등에서 B국(혹은 B국 기업)의 알고리즘으로 전장을 인식한다. 단순한 무기 의존을 넘어 전쟁에 대한 접근법 자체가 달라지는 것이다. 군사 AI 경쟁이 결국은 컴퓨팅 파워 싸움임을 감안하면 미국의 고성능 AI반도체 대중국 수출 통제는 미중 패권 경쟁의 한쪽에 AI 살상무기 시스템 경쟁이 있음을 보여준다.

20~23일 말레이시아에서 열린 아시아 최대 규모의 방산전시회 'DSA 2026'의 통합한국관. 한국방위산업진흥회 제공

K방산의 성공 서사에 힘입어 우리도 이 경쟁에 뛰어들었다. 정부는 2030년까지 방산 스타트업 100개 육성, 연 매출 1,000억 원 이상 방산 벤처 30개 육성 등을 계획 중이다. 다만 근본적인 질문이 필요하다. ‘한국판 안두릴’을 키우겠다는 목표가 더 정확하게 타격하는 AI를 더 많이 수출하는 것인지, 그 AI가 어느 나라에서 누구를 표적으로 삼을지를 통제할 수 있는지. 차제에 여야 의원 33명이 발의한 국방AI법안 논의 과정에서 LAWS의 규범적 정의, 전력화에 따른 책임소재, 국회의 통제 방안 등을 충분히 담아내야 함은 두말할 나위가 없다.

양정대 선임기자 torch@hankookilbo.com

한국일보에서 직접 확인하세요. 해당 언론사로 이동합니다.

정치