이스라엘 정보요원들 “AI가 선정한 하마스 타깃, 승인까지 20초였다”

이스라엘 매체 “이스라엘군의 가자 폭격 잔치는 AI 머신이 지시”
“AI 라벤더의 일 처리가 더 냉정...인간이 추가한 가치는 제로(0)였다”
라벤더가 최대 3만7000명 타깃 선정... “현장 지휘관들은 ‘더 달라’ 아우성”
가디언 “첨단 전쟁에서 인간과 기계의 관계 바꾸는 새로운 단계”

이스라엘군은 팔레스타인 가자지구 폭격에서 ‘라벤더(Lavender)’라는 이름의 기계학습 인공지능 프로그램을 이용해 최대 3만7000명의 테러조직원 타깃(target) 데이터베이스를 구축했으며, 이들을 타격하는 결정 과정에서 “인간이 추가하는 가치는 제로(0)”였다고 현직 이스라엘군 정보요원 6명이 영국 일간지 가디언과 현지 매체 등에 3일 증언했다.

라벤더를 직접 이용해 공중 타격할 인간 타깃을 선정해 온 6명의 이스라엘 정보요원들은 또 전쟁 초 수주 동안에는 이스라엘 군부가 테러조직 하마스나 팔레스타인이슬라믹지하드(PIJ) 소속 하급(junior) 대원 1명을 살해하는 데 15명 선까지 민간인 희생자(collateral damage)가 발생하는 것을 허용했다고 밝혔다. 이는 이스라엘군의 가자 전쟁에서 팔레스타인 민간인 희생자가 특히 많은 것을 설명할 수 있는 부분이다.

이들 정보요원의 증언 내용은 이스라엘 언론인 유발 아브라함을 통해 이스라엘과 팔레스타인 현지 매거진인 ‘+972’와 ‘로컬 콜’을 통해 공개됐으며, 영국 가디언은 이 내용을 사전에 별도로 취재했다. 이스라엘 매체 +972는 “AI 머신 라벤더가 이스라엘의 가자 폭격 잔치를 지시했다”고 주장했다.

AI 라벤더는 이스라엘군(IDF)의 엘리트 정보부대인 8200 부대(Unit 8200)이 개발한 것으로, 8200 부대는 신호정보(sigint)을 담당하는 영국의 정보기관 GCHQ(정부통신본부), 미국의 국가안보국(NSA)에 해당한다.

증언한 이스라엘군 정보요원들은 “기계가 더 냉정하게(coldly) 일처리를 했고, 내가 이 과정에서 추가 가치를 제공한 것은 전혀 없다(0)”고 말했다.

가디언은 “이스라엘이 폭격에 강력한 AI 시스템을 사용한 것은 첨단 전쟁이 새로운 단계에 접어들었음을 의미하며, 군 요원과 기계와의 관계를 바꿔 많은 법적ㆍ도덕적 문제를 초래할 수 있다”고 분석했다

◇”나는 타깃 승인 도장만 찍었고, 시간도 많이 절약돼”

한 정보요원은 테러 조직원의 특성을 파악해 타깃을 선정하는 과정에서 “내 기억으로는 과거에 필적할 수준이 없을 정도로 AI에 의존했지만, 이 ‘통계적 메커니즘’이 슬픔에 잠긴 병사보다 더 신뢰성이 있다”고 말했다.

그는 “타깃을 선정하는 모든 요원들이 10월7일(하마스의 기습테러 공격)에 친지를 잃었지만, 라벤더는 냉정하고 훨씬 쉽게 일을 처리했다”고 말했다.

또 다른 정보요원은 “나는 라벤더가 선정한 각 타깃에 약 20초 투자하고는 승인 스탬프만 찍었다. 인간의 역할은 거의 없었고, 내가 제공한 추가 가치는 제로였다. 이렇게 하루에 수십 건 타깃을 승인했고, 시간도 많이 절약됐다”고 말했다.

라벤더는 특히 수많은 데이터를 신속하게 처리해서 하급 테러조직원 타깃을 식별하는 데서 중심적인 역할을 했다. 이렇게 해서, 라벤더는 최대 3만7000명의 팔레스타인인 남성을 하마스나 PIJ와 연관이 있는 것으로 선정했다. 전쟁 전에, 미국과 이스라엘 정보기관은 하마스 소속 군사ㆍ테러 대원 수를 2만 5000~3만 명으로 추정했다.

◇타깃의 계급ㆍ중요성 따라, 민간인 희생 허용 수치도 미리 정해

이스라엘군은 또 타격하기 전에, 이 타격으로 발생할 수 있는 부수적인 민간인 희생자의 허용 숫자도 미리 승인했다.

전쟁 초기 몇 주 동안에는 하급 테러대원 1명을 살해하는 공습에서 민간인이 15~20명까지 희생되는 것이 ‘허용’됐다. 따라서 이런 하위 타깃을 살해할 때에는, 그 타깃이 있는 건물이나 주택 전체를 다 날리고 그 안에 함께 있는 민간인들도 다 죽일 수 있는 ‘멍텅구리 폭탄(dumb bombs)’이 동원됐다.

한 정보요원은 “별로 중요하지도 않은 테러 조직원들을 죽이는데, 매우 비싸고 양도 부족한 스마트 폭탄을 낭비할 수는 없다”고 말했다.

3월25일 가자 남부 라파의 알 나자르 병원에서 팔레스타인 주민들이 이스라엘군 폭격으로 숨진 친척들의 시신 앞에서 통곡하고 있다. 이날 대부분이 아이와 여성들인 31명의 주민이 숨졌다./UPI 연합뉴스

가디언은 “군사전문가들은 이스라엘이 AI를 이용해 테러 조직원을 선정하고, 가자(Gaza)의 테러 집단들과 관련된 수천 명이 살고 있는 전체 주택들을 완전히 폭파시키는 멍텅구리 폭탄을 썼다면, 현재 끔찍하게 높은 팔레스타인 민간인 희생자 수에 대한 설명이 가능하다고 말한다”고 전했다.

하마스 보건부는 지난 6개월 동안 3만 3000명의 팔레스타인이 숨졌다고 발표했다. 이스라엘군은 지금까지 1만 3000명의 테러조직원을 살해했다고 밝혔다.

◇”하위 타깃 선정에 AI 라벤더를 더 활용”

이스라엘군도 과거 전쟁에서는 테러 조직원을 선정하는데 매우 많은 노동력을 투입했다. ‘합법적인 타깃’을 확인하기까지 논의하고, 법률 파트에서 최종 승인했다.

그러나 하마스의 10월7일 기습 테러 이후에는 인간 타깃에 대한 승인 과정이 매우 빨라졌다. 한 정보요원은 “나도 가치가 낮은 타깃을 선정하는데 시간과 에너지를 투자하고 싶지 않기 때문에, 하위 타깃을 정할 때에 라벤더를 더욱 활용한다”고 말했다.

다른 요원은 “전시(戰時)에는 모든 타깃을 면밀히 검토할 시간이 부족하기 때문에, AI 이용이 수반하는 오차 범위나 민간인 피해 발생, 나의 결정에 따른 실수를 기꺼이 수용하게 된다”고 말했다.

또 전장(戰場)에서 지휘관들은 타깃을 더 많이 공급해 달라고 요구했다. 이들 정보요원은 “현장에선 ‘타깃 리스트를 더 보내라’고 진짜 고함을 쳤고, 우리는 압박감에 시달렸다” “우리에겐 ‘이제는 무슨 대가를 치르더라도 하마스를 작살내야 한다, 뭐든지 할 수 있으면, 폭격하라’는 지시가 떨어졌다”고 말했다.

이 요구에 부응하려고, 이스라엘군은 하마스와 PIJ 대원의 특성을 갖췄다고 판단되는 인간 타깃 목록을 생성하는데 더욱 라벤더에 의존할 수밖에 없었다.

어떤 ‘특성’들이 판단 기준이 됐는지는 공개되지 않았다. 그러나 8200 부대는 임의적인 추출과 그 생성물에 대해 교차 점검을 통해, AI 라벤더가 생성하는 인간 타깃이 90%의 정확성을 갖춘 것으로 판단했다. 따라서 이렇게 선정된 목록을 ‘인간 타깃 데이터베이스’로 사용하도록 승인했다는 것이다.

◇타격 대상 건물 선정엔 ‘AI 가스펠(Gospel)’ 활용

이에 따라 초기에는 3만 7000명까지 인간 타깃 데이터베이스가 확대됐다. 그러나 하마스 조직원으로 판명하는 ‘기준’을 어떻게 선정하느냐에 따라, 이 숫자는 가변적이었다.

광범위하게 하마스 대원들을 규정하면, 하마스가 운영하는 정부의 치안 담당 경찰과 민방위대원들까지도 포함하게 된다. 작년 10월 하마스의 테러 직후에는, 하마스와 관련된 팔레스타인인 남성은 계급과 중요성에 관계없이 모두 잠재적인 타깃으로 삼았다.

그러나 한 정보요원은 “그들은 하마스 정부의 조력자일 수는 있어도 이스라엘군을 위험에 빠뜨리게 하는 자들은 아니어서, 이들에게 폭탄을 낭비하는 것은 수치스러운 일”이라고 말했다. 정보요원들은 또 인간이 아닌 건축물이나 인프라를 타깃 대상으로 삼는 데이터베이스인 AI 기반의 ‘가스펠(Gospel)도 사용했다.

◇스마트 폭탄을 이용해도 엄청난 민간인 희생자 발생하는 이유

한 정보요원은 “이스라엘군 공습이 가장 강력했을 때에는 ‘보복 심리’도 있었다. 타깃 선정 기준도 매우 느슨했다”고 말했다.

또 이스라엘군은 하마스 대원이 군 관련 건물에 있거나 전투 중일 때만 살해하는 것이 아니었다. 이보다는 하마스 대원들이 집에 있을 때 타격하는 것이 훨씬 쉬웠고, 라벤더 시스템은 그런 상황에서 그들을 찾아내도록 고안됐다.

◇하급 대원 1명 살해에 민간인 희생 15명, 최고위급 간부는 ‘100명 이상’ 허용

이 탓에, 이스라엘군 수뇌부는 하마스 대원 1명 타격에 허용되는 민간인 희생자 발생 숫자를 사전에 승인했다. 이 숫자는 시간에 따라, 또 계급에 따라 달라졌다.

최고위급 하마스 간부를 살해하는 데는 100명 이상의 민간인 피해가 허용됐다. 여단장급, 대대장급 살해에 따를 수 있는 민간인 희생자 수도 미리 정했다.

한때는 하급 대원도 민간인 피해가 5명이 넘어서는 안 됐다. 그러나 전쟁 첫 주에는 이런 초급 대원을 살해하는 데도, 계급ㆍ나이ㆍ중요도에 대한 고려 없이 15~20명의 민간인 피해가 허용됐다.

사실 민간인 피해 규모가 얼마였는지 파악하는 것 자체가 부정확했다. 그 건물 안에 얼마나 사람이 있었는지를 아는 것은 불가능했다.

작년 10월31일 이스라엘의 공습으로 파괴된 가자 지구의 누세이라트 난민촌 현장. 4일 국제인권단체인 휴먼라이츠워치는 당시 공습으로 54명의 어린이를 포함해 106명의 민간인이 살해됐다고 발표했다./AP 연합뉴스

한 정보요원은 “민간인들에 섞여 있는 하마스 대원을 죽이는 것이라서, ‘비례성의 원칙’이라는 것은 존재하지 않는다”고 말했다. ‘비례성의 원칙(principle of proportionality)’이란 전쟁에서 구체적인 군사적 이득에 비해, 과도하게 민간인 희생과 피해가 높은 것을 금지하는 것을 뜻한다.

이와 관련, 미 국무부의 한 국제법 전문가는 가디언에 “낮은 계급의 조직원 한 명을 살해하는데 15명까지 민간인 동반 희생을 허용한다는 것은 들어본 적도 없다. 이는 충격적으로, 폭격에 엄청난 재량권을 주는 것”이라고 말했다.

◇이스라엘군은 ‘라벤더’ 이용한 타깃 선정 부인

한편, 이스라엘군은 +972 매거진과 로컬 콜, 가디언이 보도한 이스라엘군 정보요원들의 증언 내용에 대해 “작전은 국제법 상의 ‘비례성의 원칙’에 따라 전개됐으며, 멍텅구리 폭탄도 이스라엘공군 조종사들이 ‘고도의 정밀성’을 유지하며 사용하는 ‘표준 무기’”라고 반박했다.

이스라엘군은 또 “라벤더는 테러조직의 군사 요원들에 대한 최신 정보를 생산하기 위해 여러 부서가 상호 참고하는 데이터베이스일 뿐이며, 공격할 수 있게 확정된 타깃 목록이 아니다. 이스라엘군은 인공지능 시스템을 이용해서 테러 조직원을 식별하거나, 한 개인을 테러 조직원으로 예측하지 않는다”고 부인했다.

그러나 이스라엘 매체에 ‘AI 라벤더의 인간 타깃 선정’을 폭로한 한 이스라엘군 정보요원은 “하마스의 기습 테러(작년 10월7일) 이후 우리 내부에선 모순된 감정이 교차했다”고 말했다.

그는 “사람들은 한편으로는 ‘우리가 충분히 공격하지 못했다’는 좌절감에 빠졌다가도, 일과를 끝낼 때면 ‘오늘도 대부분이 민간인인 1000명의 가자 주민이 또 죽었구나’라는 감정이 들었다”고 말했다.