이란 초등학교 폭격, AI가 표적 설정했나

NYT “옛 데이터로 좌표 만들어”
혁명수비대 건물이 학교가 됐는데
그 내용이 반영 안 된 상태로 공격

도널드 트럼프 미국 대통령이 11일 켄터키주 헤브론에서 연설을 하기에 앞서 청중을 가리키고 있다. /AFP 연합뉴스

지난달 28일 발생한 이란 여자 초등학교 폭격 사건이 미군의 표적 설정 오류 때문인 것으로 보인다는 미군 내 예비 조사 결과가 나왔다. 당시 사망자는 170여명으로 대부분 어린이였다. 미군은 현재 데이터 검증·갱신 과정에서의 ‘인간 오류’에 무게 중심을 두고 있지만, 이번 작전에서 인공지능(AI)을 광범위하게 활용하고 있는 만큼 일각에선 인간 통제를 벗어난 AI의 문제라는 지적도 나온다.

뉴욕타임스(NYT)는 11일 미 당국자 등을 인용해 초등학교 오폭은 중부사령부(CENTCOM)가 정보 당국이 제공한 오래된 데이터를 바탕으로 좌표를 만들었기 때문이라고 보도했다. 중부사령부는 이번 이란 작전 전반을 지휘하고 있다. 이란 공습을 시작한 당일 미군은 국방정보국(DIA)이 제공한 데이터를 기반으로 표적을 설정했다. 수백 곳의 표적들 중 ‘군사 목표물’에 이란 남부의 혁명수비대(IRGC) 해군 기지가 포함돼있었고, 이를 토마호크 미사일로 공격했는데 기지가 아닌 여학교였다는 것이다. 조사 결과 2013~2016년 해군 건물 일부가 학교로 바뀌었는데 이 내용이 반영되지 않았던 것으로 파악됐다. IRGC가 사용하던 해군 기지는 폭격을 받은 초등학교로부터 약 600m 떨어진 곳에 위치해있었고, 같은 날 폭격으로 파괴됐다.

미국이 표적 설정을 잘못해 오폭한 이란 남부 여자 초등학교 일대를 촬영한 위성사진./로이터 연합뉴스

미군이 이번 작전에서 AI를 적극 활용하고 있는 만큼 초등학교 오폭이 AI로 인한 오류라는 의혹도 나온다. 워싱턴포스트(WP)는 “이번 작전에서 AI는 목표물을 제안하고, 정확한 위치 좌표를 제공하며, 중요도에 따라 목표물의 우선순위를 정했다”고 보도했다. 브래들리 쿠퍼 중부사령관도 “과거 몇 시간 또는 심지어 며칠씩 걸리던 과정이 몇 초로 줄었다”고 한 바 있다. 프랑스 정치학자인 로르 드 루시-로슈공드는 르몽드 기고에서 “위성 이미지 분석 오류, 학교가 혁명수비대 기지와 인접해 있다는 사실 때문에 알고리즘 추천이 잘못됐을 가능성이 있다”며 “군사적 효율성이라는 미명 아래 이미 인간성에 영향을 미치는 선택을 기계에 위임하기 시작한 것”이라고 했다. 미군은 작전 12일째인 11일까지 5500개가 넘는 표적을 타격했다고 밝힌 바 있다.

대규모 표적 목록을 생성하는 과정에서 AI의 결과물을 인간 관리자가 모두 검증하지 못하는, 이른바 ‘인간 소외’ 현상이 발생했을 가능성도 있다. AI가 선정한 표적을 인간이 검증하는 시간이 극히 짧고, 어떤 데이터를 결정적인 증거로 활용했는지 알 수 없는 ‘블랙박스’ 현상이 있어 판단이 쉽지 않다는 것이다. WP는 미군 전 고위 관계자를 인용해 “미군 작전에서 AI나 다른 방법을 통해 생성되든 관계없이 인간의 검토와 승인을 거쳐야 한다”고 했다. 군 조사는 아직 예비 단계로, 왜 오래된 데이터가 검증 없이 활용됐고, 데이터 검증은 제대로 이뤄졌는지 등이 추가 규명 과제로 남아 있다.

NYT는 이번 오폭을 1999년 코소보 전쟁 당시 미군이 베오그라드 주재 중국 대사관을 무기 구매 본부로 오인해 폭격한 사건에 비견되는 “최악의 군사적 실수”라고 했다. 오폭을 부인해 온 도널드 트럼프 대통령은 이날 예비 수사 결과에 관한 질문을 받고 “잘 모르겠다”고 했다.