인구 감소하니 AI 무기 쓰면 된다? 진실은 이렇습니다

[StopKADEX⑤] 전쟁터에 들어온 AI 기술

2014년부터 격년으로 열려온 지상군 무기박람회 대한민국 방위산업전(DX KOREA)가 9월 25일부터 28일까지, 올해 처음 열리는 대한민국 국제방위산업전시회(KADEX)가 10월 2일부터 6일까지 개최됩니다. 세계의 주요 무기 회사와 각국 정부의 국방 관계자가 참여하며, 이 중에는 민주 시위를 탄압하고 국내외 분쟁에서 민간인을 학살하는 국가들도 포함되어 있습니다. 무기박람회저항행동은 전 세계 무기산업이 초래하는 인명 살상과 군비경쟁의 문제점 등을 6회에 걸쳐 짚어봅니다. <기자말>

[황용하]

▲ 2일 충남 계룡대에서 열린 대한민국 국제방위산업전시회 KADEX 2024에서 관람객들이 전시물을 살펴보고 있다.

대한민국 국제방위산업전시회(KADEX) 전시 품목 내 '미래' 항목에는 인공지능(AI), 로봇, 스마트 통제체계, 무인 경비 등의 제품들이 포함되어 있다. AI 모델 개발 및 지원 서비스를 제공하는 한 참가 기업은 인공지능 기술이 핵심 경쟁력이 되었다고 언급하며, 이제 방위산업에서의 AI 기술 도입은 필수 불가결함을 시사했다.

AI의 군사적 이용은 인간 병사의 희생을 줄이고 전시 결정 과정 시간을 단축하며 미래전을 전면 효율화할 것이라는 전망이 팽배하다. 사실, AI 무기는 이미 실전에 배치되어 사용되고 있다.

전쟁을 휩쓰는 AI, '더욱 지능적으로 더러워진 전쟁'

2021년 국제연합(UN) 내 리비아 전문가 패널이 발표한 보고서는 2020년 리비아 내전 당시 튀르키예군이 배치한 무인드론 '카구2(Kargu-2)'가 인간의 개입 없이 리비아군을 공격했다는 사실을 공개하고, 사실상 인간의 개입을 한정한 '발사 후 망각 및 탐색'('fire, forget and find') 능력을 갖춘 것"이라고 설명했다.

이러한 살상무기체계뿐만 아니라, 현재 이스라엘-하마스 전쟁에서 사용되고 있는 이스라엘군의 가스펠, 라벤더, 아빠는 어디?(Where's Daddy?)는 AI 기술의 조력을 받아 대량의 데이터를 분석해 표적 감시, 식별 및 선정 과정을 빠르게 한다. 가자지구의 팔레스타인인을 감시하기 위한 블루 울프, 레드 울프, 울프팩 등의 얼굴 인식 시스템 또한 AI를 통해 효율적인 감시와 통제를 돕는다.

AI 기반 무기체계가 인간의 삶과 죽음을 결정하는 과정에서 오는 법적, 윤리적인 문제들은 종종 정확성과 속도라는 군사적 효율성에 가려지며, 국제인도법에 따른 민간인과 군인의 구별 원칙 등은 철저히 고려되지 않은 채 전쟁은 더욱더 '더러워'지고 있다.

AI 군비 경쟁의 서막

이러한 와중에 AI의 도입을 국방에 필수 요소로 여기는 것이 국가들에게 상식처럼 되었고, 지난 몇십 년간 이어져왔던 핵 군비 경쟁 다음으로 AI 군비 경쟁을 목도하는 상황에까지 이르렀다.

한국 또한 AI 군비 경쟁에 적극적으로 편승하고 있다. 국방부는 2023년 3월 발표한 '국방혁신 4.0'계획에 맞춰 인공지능 기반의 과학기술 강군육성을 목표로 향후 인공지능과 결합 된 각종 시스템의 도입 및 지능형 지휘결심체계(AI 참모)와 자율형 무인전투체계 등을 도입할 전망이다. 특히 한국이 골머리를 앓는 인구 감소에서 비롯된 병력 감소는 AI 기반 무기체계 도입 논리 근거로 사용된다.

올해 열린 무기박람회만 보아도 알 수 있다. 대한민국 방위산업전(DX KOREA)을 비롯해 앞에 언급한 KADEX에서는 국내 대표 방산업체들이 참여하여 AI 무기체계들을 선보이고 있다.

현대로템이 미래전투체계 핵심 전시품으로 선보인 다목적 무인차량 'HR-셰르파(HR-SHERPA)'의 4세대 모델은 AI를 탑재해 자율주행은 물론 감시, 정찰, 전투를 포함한 다양한 임무를 수행할 수 있는 확장성을 가지고 있다. LIG넥스원은 AI 기반 플랫폼을 통해 전장에서 신속한 지휘 판단을 내릴 수 있게 하는 '지능형 통합 지휘통제 체계'를 선보였다. 한국항공우주산업(KAI)은 이미 올해 초 무인 전투기 개발에 1025억 원을 투자하기로 했고, 유무인 복합전투체계의 핵심 기술인 AI 조종사 등 첨단 기술 개발에 힘쓰고 있다.

박람회가 말하지 않는 AI무기의 진실

▲ 현대로템이 2일부터 오는 6일까지 충남 계룡시 계룡대에서 열리는 '대한민국 국제방위산업 전시회(KADEX)'에 참가한다고 2일 밝혔다. 사진은 현대로템 KADEX 2024 전시관 전경.

하지만 무기박람회의 이면에는 AI 무기에 대한 몇 가지 중요한 진실이 감춰져 있다. 첫째, 화석연료에 대한 의존이다. <블러드 인 더 머신(Blood in the Machine: The Origins of the Rebellion Against Big Tech)>의 저자 브라이언 머천트는 AI 테크 기업이 세 가지 방법으로 기후 위기를 악화시킨다고 주장한다.

첫째, AI 도구를 판매하여 석유 회사들이 화석연료를 더 빠르게 시추할 수 있도록 돕고 둘째, 구글보다 약 10배 더 많은 전력을 소비하는 데이터 센터를 운영하고(AI가 생성하는 답변 하나는 구글 검색에 필요한 전력의 약 10배가량을 소모한다), 마지막으로 화석연료 회사들에게 더 많은 발전소를 건설할 빌미를 제공하고 있다는 것이다.

AI 알고리즘에 기반한 무기체계의 개발과 사용 또한, 많은 에너지 소비로 기후에 직간접적 악영향을 미칠 것이며 결국 AI의 군사적 필요성은 국가의 에너지 정책을 왜곡시킬 가능성도 존재한다.

둘째, 법적 윤리적 책임 구조의 부재다. AI 무기체계의 사용은 그 책임 소재가 명확하지 않은 상황을 초래하고 있다. 누가 AI의 오작동으로 인한 민간인 피해를 책임질 것인가? 무기체계를 설계한 프로그래머인가, 이를 배치한 군대인가, 혹은 이를 판매한 기업인가?

현행 국제법과 빠른 기술 개발의 간극은 점점 벌어지고, AI의 블랙박스 문제는 법적, 윤리적 문제 및 전쟁 범죄 책임 소재 파악을 복잡하게 한다. 당연히 무기박람회에서 이러한 문제는 잘 다뤄지지 않는다.

마지막으로, 기술 불평등의 고착화다. AI 무기는 이미 선진국과 개발도상국 사이의 기술 격차를 확대하고 있으며, 최첨단 군사 AI 기술을 보유한 국가들은 그들의 군사력을 강화하여 국제 질서에서 지배적인 위치를 점하게 된다. 반면, 이 기술을 보유하지 못한 국가는 군사적, 정치적으로 더욱 취약해질 것이다.

AI의 군사적 이용에 대한 국제적인 거버넌스가 확립되지 않으면, 글로벌 노스(Global North)와 글로벌 사우스(Global South) 간의 종속 구조가 더욱 심화할 가능성이 크다. 이는 기존의 경제적, 정치적 불평등을 군사적 영역으로까지 확장시키며, 장기적으로 국제 사회의 불안정을 초래할 수 있다.

AI 무기에 대한 논의에 있어 핵심은 본질적으로 AI가 이중용도 기술이라는 것이다. 따라서 아무리 AI의 비살상, 민수 용도를 강조하여 개발을 이어 나간다고 해도 이는 군사적 살상 용도와 무관할 수 없다. 게다가 무기박람회는 앞서 언급했던 여러 문제를 감춘 채 진행된다. 인간의 삶과 죽음이 한순간에 결정되는 전쟁터에서 그 결정조차 기계에 의존하게 되는 AI 무기를 전시하고 판매하는 행위를 중단해야 할 것이다.

[관련기사]
[StopKADEX①] 전쟁터 '한국산'의 실체... 윤 정부는 세금을 이런 데 쓴다
(https://omn.kr/2aa0n)

[StopKADEX②]충격적인 군 온실가스 배출량... 보고서는 왜 비공개됐나
(https://omn.kr/2ab9m)

[StopKADEX③] 대전에서 '유기농 밥상 차려 먹는 일'의 진짜 의미
(https://omn.kr/2adcq)

[StopKADEX④] 팔레스타인 사람들 대상으로 무기 성능 실험? 이스라엘의 민낯
(https://omn.kr/2aeug)

덧붙이는 글 | 이 기사는 무기박람회저항행동 소속 단체들의 블로그에도 실립니다. 무기박람회저항행동은 무기박람회 반대 활동을 위해 모인 평화활동가와 평화운동 단체들의 네트워크입니다. 2024년 현재 18개 단체가 함께 하고 있습니다. 이 글의 필자는 황용하 피스모모 평화/교육 연구소 연구위원입니다

이 기사에 대해 어떻게 생각하시나요?

오마이뉴스에서 직접 확인하세요. 해당 언론사로 이동합니다.