이스라엘의 자랑 '아이언 돔' 이어 'AI'로?…"군사작전 탑재"

공습 대상 AI로 정밀 선택, 후속 공습도 AI 활용…
방공시스템 '아이언돔' 개발한 라파엘사가 개발,
알고리즘 작동 과정 불투명해 '완전자율화' 우려

지난 5일(현지시간) 가자시티에서 이스라엘의 공습으로 연기와 화염이 피어오르고 있다. /로이터=뉴스1

이스라엘 방위군(IDF)이 이란과의 긴장이 고조되자 군사작전에 인공지능(AI) 시스템을 탑재하기 시작했다.

공습 대상을 AI로 선택해 전례 공습 속도를 파격적으로 줄이고 전시 물류도 AI로 조직한다. 당장은 사람이 타격 목표를 최종 승인하지만, 알고리즘의 투명성이 확보되지 않은 가운데 완전 자율화되면 심각한 부작용을 초래할 것이란 우려가 나온다.

━

이스라엘의 자랑, '아이언 돔' 다음은 AI 공습 시스템

━

16일(현지시간) 블룸버그통신에 따르면 이스라엘 방위군은 공습 대상을 선택하는 데 방대한 양의 데이터를 분석하는 AI 추천 시스템을 사용 중이다. 또 다른 AI 모델인 '파이어 팩토리'는 타깃 선정 이후 후속 공습도 신속하게 실행하게 해준다. 군사적으로 승인된 타깃에 대해 탄약의 부하를 계산하고 우선순위를 정하는가 하면 전투기와 드론에 수천 개의 타깃을 할당하고 공습 적정 시기까지 제안한다.

IDF에 따르면 두 시스템 모두 사람이 개별 타깃과 공습 계획을 최종 승인하나 현재 이를 감독하는 국제적 혹은 국가 수준의 규제는 없다. 지지자들은 AI 알고리즘이 인간의 능력을 넘어서 군이 사상자를 줄이는 데 기여한다는 입장이다.

반면 비판자들은 자동화 시스템에 의존하는 데 있는 잠재적 위험이 치명적이라고 경고한다. 헤브루대학 국제법 강사 탈 밈란은 "만약 AI의 계산이 틀렸고 이를 AI가 제대로 설명하지 못한다면 누가 책임을 지겠냐"며 "(AI 시스템의) 일가족 전체를 쓸어버릴 수도 있다"고 말했다.

군 관료들에 따르면 IDF는 가자지구에서 주기적으로 군사적 충돌을 거치면서 AI 시스템을 활용한 전투 경험을 쌓았다. IDF는 가자지구에서의 10일간에 걸친 분쟁을 "최초의 AI 전쟁"이라고 묘사하기도 했다. 당시 IDF는 로켓 발사대를 식별하고 드론 무리를 파견하면서 AI 시스템을 사용했다.

이스라엘은 최근 몇 달간 이란의 우라늄 농축에 대해 거의 매일 비난하고 있다. 양국이 군사적으로 정면 충돌하면 인접한 가자, 시리아, 레바논까지 보복에 나서 이스라엘은 50년 만에 심각한 다중 전선 분쟁을 맞게 될 수 있다. 이스라엘은 1973년 유대교 명절인 욤키푸르(Yom Kippur, 속죄의 날)에 시리아와 이집트로부터 급습을 당했고 전투 초기 고전하다 미국의 무기 공수작전으로 패배를 면했다.

━

라파엘 등 방산업체 협력, "방어에만 쓰라" 우려 높아

━

현재 방산업계에서 이스라엘의 위상은 남다르다. 올해로 출시 10년을 맞은 방공시스템 '아이언 돔'(Iron Dome)의 명성에 이어 이스라엘은 자율 무기 분야의 글로벌 리더로 자리매김하기 위해 다양한 부대에 AI 시스템을 확장하고 있다.

시스템 중 일부는 이스라엘 방위 계약업체들이 구축했고 '스타트랙' 같은 국경 통제 카메라 시스템도 포함된다. 이들은 드론, CCTV, 영상, 위성이미지, 전자신호, 온라인커뮤니케이션 등 막대한 양의 데이터를 분석하는 방대한 디지털 아키텍처를 집단적으로 구성하고 있다.

이스라엘 육군의 8200 부대가 운영하는 DSAIC(데이터과학 및 인공지능센터)가 이처럼 홍수 같은 정보를 처리한다. 이 부대는 팔로 알토 네트웍스(Palo Alto Networks)의 니르 주크, 체크 포인트 소프트웨어 테크놀로지스(Check Point Software Technologies)의 설립자 길 슈웨드 등 미국 IT 백만장자들이 스타트업으로 대박을 내기 전 의무 복무를 마친 곳이기도 하다.

문제는 AI 시스템이 어떻게 개발됐는지 워낙 비밀스러운 데다, 지금의 반자동화 시스템이 하룻밤 사이 완전 자동화 살상기계로 바뀔 수 있다는 점이다. 많은 알고리즘이 사기업과 군대에 의해 개발되기 때문에 정작 시스템이 어떻게 작동되는지 공개된 바가 없다.

강점은 막강하다. 무엇보다 민간인 사상자를 줄일 수 있다. 영구 런던 소재 국제전략연구소 연구원인 시모나 소어는 블룸버그통신에 "잘 활용하면 정밀도가 매우 뛰어나다. 물론 잘못될 수 있는 일도 많다"고 말했다. 밈란 강사는 이에 대해 "가치에 기반한 결정을 내려야하는 지점이 있고 이 부분만큼은 AI에 의존할 수 없다"며 "AI 시스템은 오직 방어 목적에만 쓰여야 한다"고 제안했다.

김희정 기자 dontsigh@mt.co.kr