“사람이 명령 안 내렸는데... AI드론, 스스로 표적 살상”

우크라 개발자 주장... ‘터미네이터’ 현실화 논란

우크라이나가 드론으로 러시아 군함을 공격하는 모습이다. 당시엔 사람이 조종했지만, 앞으로는 AI 드론이 스스로 공격할 가능성이 제기됐다. /우크라이나 안보국

러시아·우크라이나 전쟁에서 인공지능(AI) 드론이 사람 명령 없이 스스로 표적을 찾아 실제로 적군을 살상했다는 주장이 나왔다. 사실이라면 인간의 최종 승인 없이 AI가 사람의 생사를 결정한 첫 사례가 된다. 그동안 논쟁으로 다뤄졌던 ‘킬러 로봇’ 문제가 이미 현실로 벌어졌을 가능성이 제기된 것이다.

우크라이나 드론 개발자 알렉산더 코하노우스키는 “우크라이나 전쟁 중에 AI 드론 10대가 우크라이나 동부 전선에서 러시아 병사들을 공격했고 사망자가 나왔다”고 말했다고 과학 전문지 뉴사이언티스트가 10일 보도했다. 사람이 조종하지 않은 드론이 정해진 구역으로 날아가 스스로 목표물을 포착한 뒤 공격을 가했다는 것이다.

◇AI 드론 자율 살상 첫 사례 주장

코하노우스키에 따르면, 2년 전쯤 소형 쿼드콥터 드론 10대를 동원한 공격 실험이 진행됐다. 드론은 전선 방향으로 발사돼 10분가량 3~5㎞를 비행한 뒤, 사람 조종을 받지 않는 ‘터미네이터 모드’에 들어갔다. 이 모드에 들어가면 사람과 연결이 끊겨 드론이 어떤 표적을 삼고, 어떤 공격을 했는지 확인할 수 없게 된다고 한다. 사람이 화면을 보면서 공격을 지시하는 방식이 아니었다는 뜻이다. 실험이 종료된 뒤 현장을 확인한 결과, 러시아 병사 몇 명과 트럭 한 대가 공격당한 것으로 나타났다고 한다.

이 주장이 사실이라면, 최종 공격 여부는 사람이 판단하고 책임진다는 ‘휴먼 인 더 루프’ 원칙이 깨진 첫 사례에 해당한다. 지금도 AI는 위성 사진과 드론 영상을 분석해 목표를 찾아내고, 적 드론을 추적하며, 마지막 수십 m를 자동으로 유도한다. 하지만 최종 공격 여부를 결정하는 마지막 단계는 인간이 개입하는 것이 불문율이었다. AI가 이 원칙을 깼다면, 전쟁의 ‘조언자’에서 ‘실행자’로 넘어갔다는 의미가 된다.

하늘을 날던 우크라이나 드론이 러시아군 차량을 공격하고 있다. /엑스

◇전쟁 논리가 자율 살상 드론에 힘 실어

이미 현대전은 드론과 AI 기술 없이는 이길 수 없는 싸움이 됐다. 이 때문에 군 내부에선 드론에 더 자율성을 부여해야 한다는 목소리가 컸다. 상대 드론의 통신을 방해하고, GPS를 교란하는 전장에서, 사람이 조종하는 드론은 통신이 끊기면 쉽게 무력화된다. 통신이 끊기더라도 드론이 스스로 임무를 수행하게 해야 한다는 주장이 나오는 이유다. 대규모 드론 군집을 운용하려면 사람 조종사만으로는 감당하기 어렵다는 현실도 있다. 드론 1대에 조종사 1명이 붙는 방식으로는 대규모 드론 작전을 펼치기 힘들기 때문이다.

한국 안보에도 시사점이 크다. 병력 감소와 북한 무인기 위협을 동시에 마주한 한국군에도 유혹적인 기술이기 때문이다. 국방부는 병력 부족을 보완하고, 위험한 임무를 로봇과 드론에 맡기는 AI 기반 유·무인 복합 전투 체계를 추진하고 있다. AI에 자율성을 높이면 더 빠르게 판단하고, 더 많은 목표를 동시에 추적하며, 병사 손실을 줄일 수 있다. 하지만 효율성을 극대화하는 방향으로만 가다 보면 최종 공격 판단까지 AI에 넘기자는 압력도 커질 수 있다.

◇책임은 누가 지나

자율 살상 무기를 둘러싼 국제 규범은 기술 발전 속도를 따라가지 못하고 있다. 유엔에서는 인간 통제 없이 사람을 죽일 수 있는 자율 무기 체계가 국제 인도법과 인권 원칙을 훼손할 수 있다는 우려가 제기돼 왔다. 하지만 아직 이를 전면 금지하는 국제 조약은 없다. 미국, 중국, 러시아 등 군사 강국은 기술 경쟁에서 밀릴 수 있다는 이유로 구속력 있는 금지에 신중한 탓이다.

문제는 책임 공백이다. AI가 오인 공격을 했을 때 책임자가 누구인지 따지기 어렵다. 명령한 지휘관인지, 드론을 만든 기업인지, 학습 데이터를 설계한 개발자인지 불분명해진다. 민간인과 군인, 아군과 적군이 뒤섞인 공간에선 AI가 식별 오류를 일으킬 위험도 커진다. 현장 맥락 없이 판단하다가 아군이나 민간인을 해칠 가능성도 무시할 수 없다. 사람 개입이 마지막 제동 장치인 셈이다. 한 전문가는 “세계 각국은 암묵적으로 최종 공격 단계는 사람이 개입하도록 규제해 왔다”며 “하지만 불문율은 언제든 깨질 수 있는 만큼 구속력 있는 국제 규범이 필요하다”고 했다.