“곧 ‘터미네이터’ 속 세상 살게 될 것”···러시아 자율 공격 드론으로 민간인 사망

지난달 22일(현지시간) 러시아의 우크라이나 침공이 이어지는 가운데 동부 하르키우주 이지움 마을에서 보행자들이 성승천 성당을 배경으로 드론 방어망이 설치된 도로를 따라 걸어가고 있다. AFP연합뉴스

최근 러시아가 인간의 개입 없이 목표물을 선택하고 공격하는 인공지능(AI) 자율 공격 무인기(드론)를 전쟁에 투입한 것으로 드러났다.

뉴욕타임스(NYT)는 24일(현지시간) 지난달 우크라이나 남동부 자포리자에 있는 한 주유소의 프로판 가스통을 타격한 드론이 인간이 아닌 AI 시스템에 의해 조종된 것으로 드러났다며 드론 전문가·우크라이나 군 지휘관·잔해 감식팀을 인용해 보도했다. 이 공격으로 19세 여학생을 포함해 3명의 민간인이 사망했다.

이는 AI 자율 공격 드론에 의해 민간인 사망자가 나온 것으로 확인된 첫 사례다. 앞서 미하일로 포돌랴크 우크라이나 대통령 고문이 SNS에 “러시아가 자율 살상 드론을 시험하고 있다”고 언급한 적은 있지만 이로 인한 사망자 발생 등 구체적인 정보가 나온 적은 없다.

해당 드론은 애초 인간에 의해 특정 주유소로 향하도록 프로그래밍했지만 주유소 인근에 도착하자 훈련을 통해 습득한 정보를 바탕으로 스스로 목표물을 선택한 것으로 파악됐다. 드론의 AI 시스템은 수천 장의 이미지를 학습해 군용 트럭, 사람 등을 식별한 후 자체 카메라를 통해 높은 정확도로 공격 대상을 추적했다.

이 드론에는 엔비디아의 ‘젯슨 오린’ 모듈이 활용된 것으로 전해졌다. 암호화되지 않은 엔비디아 칩을 분석한 결과 목표물 추적과 이동 경로 유지에 활용할 수 있는 지형 이미지가 저장돼 있었고, 드론이 표적을 식별해 공격하도록 훈련된 사실도 확인했다고 우크라이나 당국은 전했다. 해당 드론은 군 모병소뿐만 아니라 주유소의 프로판 가스통이나 주유기 등 민간 시설도 목표로 삼은 것으로 파악됐다.

엔비디아 측은 NYT에 해당 칩은 “학생, 개발자, 스타트업 등 다양한 분야에서 활용될 수 있는 소비자용 제품”이라며 러시아에는 판매하고 있지 않다고 밝혔다. 다만 중고 시장 등을 통해 해당 칩이 거래되고 있다고 덧붙였다.

인권단체와 국제적십자위원회는 인간의 개입 없이 AI 무기를 사용하는 것을 강력히 반대하고 있다. 이들은 자율형 무기 체계가 사실상 로봇에게 합법적인 군사 표적을 결정하는 데 있어 국제법을 스스로 해석하도록 맡기는 꼴이라고 비판한다. 반면 공격 전에 판단을 내린다는 점이 되레 안전할 수 있다며 무기에 AI 시스템이 의무적으로 탑재돼야 한다는 주장도 일각에서 나온다.

세르히 미나예우 자포리자 방공 사령관은 “이것은 전 세계를 위협하는 위험”이라며 “몇 년 안에 우리는 영화 ‘터미네이터’ 속 세상에 살게 될 것이다. 농담이 아니다. 기계들이 공격 결정을 내리고 있다”고 말했다.

우크라이나도 AI 기반의 자율 표적화 시스템을 시험하고 있다. 미하일로 페도로프 전 우크라이나 국방장관은 지난달 말 NYT에 지난 몇 달간 러시아 점령지인 크름반도에서 이러한 시스템을 시험했고 민간인 사상자는 없었다고 말했다.

박채연 기자 applaud@kyunghyang.com