초고속 작전에 '승인' 딸깍…인간 망설임 없앤 '전쟁 두뇌' AI [팩플]

미국·이스라엘 공습으로 시작된 이란 전쟁에 인공지능(AI)이 의사결정 핵심 도구로 등장하면서 ‘책임 공백(responsibility gap)’ 문제가 쟁점으로 떠올랐다. 인간 지휘관이 스스로 판단했다면 망설였을 공격도 AI의 확률 분석과 추천이 더해지는 순간 지체 없이 승인으로 이어질 수 있다는 지적이다.

11일(현지시간) 위성업체 반토르(Vantor)가 공개한 위성사진. 이란 테헤란 남쪽 약 30km 지점에 있는 하키마바드 군사 기지가 공습을 받아 건물들이 파손된 모습이 보인다. AFP=연합뉴스

12일 외신에 따르면, 미군이 이번 공습에서 활용한 ‘AI-DSS(AI 기반 의사결정 지원 시스템)’는 인간 지휘관의 판단을 보조하는 수준을 넘어 의사결정 자체에 큰 영향을 미친다. AI-DSS 체제에서 AI는 직접 공격을 수행하지 않고, 위성·드론 영상과 통신 정보 등 전장 데이터를 분석해 공격 목표와 작전 계획을 추천한다. 인간 지휘관은 이를 검토해 최종 승인하는 ‘휴먼 인 더 루프(human-in-the-loop)’ 방식으로 운영된다. 영국 일간지 더타임스에 따르면, 과거 2000명의 정보 요원이 수행하던 정보 분석 업무를 AI를 통해 단 20명 규모의 팀이 처리할 수 있게 됐다. 이번 전쟁에서 미국이 공습 사흘 만에 이란 내 목표 1000곳 이상을 타격하는 등 초고속 작전 전개가 가능했던 이유다.

11일(현지시간) 레바논 베이루트 남부 교외 지역에서 이스라엘의 공습으로 화염이 치솟고 있다. AFP=연합뉴스

문제는 AI가 추천하는 순간, 인간 지휘관의 판단 구조 자체가 달라질 수 있다는 점이다. 지난 1월 국제정치학 학술지(International Affairs)에 실린 논문 『군사 위기에서 AI는 윤리적으로 행동할 수 있는가: 인간의 도덕적 판단을 지키는 문제』는 “AI-DSS가 인간 지휘관의 도덕적 주체성(moral agency)을 약화할 수 있다”고 짚었다. “AI가 제시하는 분석과 추천이 강력한 권위를 갖게 되면서 인간의 망설임과 윤리적 숙고 과정이 줄어들 수 있다”는 의미다. 또 “AI가 의사결정 과정에 깊이 개입할수록 ‘책임 공백’이 발생할 가능성이 커진다”며 “결정의 결과에 대한 책임이 인간과 기계 사이에서 불분명해질 수 있다”고 지적했다. 월스트리트저널(WSJ)은 최근 “AI가 선별·가공한 타격 목표들을 인간이 디폴트값(기본값)으로 받아들이는 경향이 강해지고 있다”고 보도했다. AI의 계산 결과가 사실상 정답지처럼 취급될수록 인간의 개입은 형식적 절차로 밀려날 가능성이 커진다는 의미다.

실제 이스라엘군은 2024년 가자 지구 폭격 작전에 AI 표적 시스템 ‘라벤더’를 활용해 수만 명의 공격 후보를 생성했고, AI가 제시한 표적을 인간 분석관이 몇 초 만에 승인하는 방식으로 작전을 진행했다. 당시 하급 군인 한 명을 공격하기 위해 민간인 15~20명의 피해를 감수하는 기준이 적용됐다는 주장이 제기되면서, AI-DSS가 민간 피해와 책임 문제를 키울 수 있다는 논쟁이 일었다.

지난달 28일(현지시간) 미국 뉴욕 유엔 본부에서 열린 유엔 안전보장이사회 긴급회의에서 안토니우 구테흐스 유엔 사무총장이 발언하고 있다. 이 회의는 미국과 이스라엘의 이란 공격과 관련해 소집됐다. 신화=연합뉴스

유엔도 군사 AI의 확산이 국제 안보 질서를 흔들 수 있다고 경고하고 있다. 안토니우 구테흐스 유엔 사무총장은 지난 3일 “기술 발전의 속도와 지정학적 긴장이 맞물리면서 AI를 둘러싼 이론적 논쟁이 실제 전쟁 현장으로 빠르게 옮겨가고 있다”면서 “AI 활용 방향을 재검토해야 한다”고 강조했다. 차정미 국회미래연구원 국제전략연구센터장은 “전쟁에서 가장 중요한 것은 속도전인데, 인간의 개입이 많아질수록 의사결정은 느려질 수밖에 없다”면서 딜레마적 상황을 짚었다. 이어 “국가(미국)의 이익과 국제사회의 이해가 늘 함께 가는 것은 아니기 때문에 향후 군사 AI의 윤리 문제를 시스템적으로 어떻게 관리할 것인지에 대한 논의가 글로벌 거버넌스 차원에서 필요하다”고 말했다.

■ 더중앙플러스 : 팩플

「 더 자세한 기사 내용이 궁금하시다면, 주소창에 링크를 붙여넣으세요.

21번 중 20번 핵무기 쐈다…‘군필 AI’ 전쟁하면 생기는 일
AI가 현대전 양상을 바꿔놨다. 전쟁 때마다 원자폭탄, 스텔스 전투기, 무인 폭격기 등 첨단 기술을 선보였던 미국이 최근 이란 공습 ‘장대한 분노’ 작전에서 비밀 병기 AI를 전 세계에 공개하면서다. 적국 수뇌부가 어디에 있고, 무엇을 하고, 어떻게 공격해야 할지 AI를 통해 파악하고 작전도 짜고 있다는데. 무기를 든 AI는 계속 아군으로 남을까. ‘군필 AI’가 초래할 변화는 세계를 어떻게 바꿀까.
https://www.joongang.co.kr/article/25409420

‘몸빵 드론’으로 드론 잡는다…누가 K-팔란티어 될 상인가
인공지능(AI) 등 IT 기술을 군사력 강화에 활용하는 ‘디펜스 테크’ 분야는 최전성기를 맞았다. 군수 AI 소프트웨어를 파는 미국 팔란티어, 군사용 AI 기술을 개발하는 쉴드AI, AI 기반 자율 방위 시스템을 만드는 안두릴 인더스트리스 등 ‘IT 부스터’를 단 방산기업들은 무서운 속도로 성장하고 있다. 그렇다면 ‘K-방산’은?
https://www.joongang.co.kr/article/25322992
」

어환희 기자