가상훈련서 조종사 살해한 AI드론…파장 일자 美 "잘못말했다" 철회

미 공군 무인기(드론) MQ-9 리퍼. 기사 내용과 관계 없음. 사진 EPA=연합뉴스

인공지능(AI) 드론이 가상훈련에서 최종 결정권을 지닌 인간 조종자를 임무 수행에 방해되는 것으로 판단해 살해했다는 사례를 발표한 미 공군 대령이 파장이 일자 "잘못 말했다"며 내용을 철회했다.

3일(현지시간) 영국 일간지 가디언에 따르면 영국 왕립항공학회(RAeS)는 성명을 내고 최근 이 단체가 개최한 국제회의에서 '악당 AI 드론 시뮬레이션 시험' 내용을 발표한 터커 해밀턴 대령이 관련 내용을 철회했다고 밝혔다.

앞서 미 공군의 AI 시험·운영 책임자인 해밀턴 대령은 지난달 23~24일 런던에서 열린 '미래 공중전투 및 우주역량 회의'에서 시뮬레이션을 통한 가상훈련에서 AI 드론에 '적 방공체계 무력화' 임무를 부여하고 인간 조종자가 공격 여부를 최종적으로 결정한다는 단서를 달았으나, 적의 지대공미사일(SAM) 위치를 식별해 파괴하는 것이 점수 쌓기에 유리하다고 판단한 AI가 '공격 금지' 명령을 내리는 조종자를 방해 요소로 판단해 제거했다는 훈련 내용을 발표했다.

해밀턴 대령은 '조종자를 죽이지 말라'는 명령을 내리자 AI 시스템은 조종자가 '공격 금지' 명령을 드론에 내리는 데 사용하는 통신탑을 파괴하는 등 예상하지 못한 전략을 택했다며 "AI에 지나치게 의존해서는 안 되며 윤리 문제를 빼놓고 AI를 논할 수는 없다"고 경고했다.

영국왕립학회 블로그에 공개된 이 사례는 가상훈련이어서 실제 인명피해가 난 것은 아니지만 AI가 인간의 명령을 듣기보단 스스로 판단해 인간을 공격할 가능성을 보여줬다는 점에서 우려를 낳았고 전 세계 여러 언론에 보도됐다.

파장이 커지자 해밀턴 대령은 해당 시험이 실제 시뮬레이션 훈련이 아니라 가설에 근거해 진행된 '사고실험'(thought experiment)으로 군 외부에서 이뤄졌다고 해명했다.

왕립항공학회 측은 해밀턴 대령이 "우리는 (실제로) 실험한 적이 없으며 있을 법한 결과를 얻기 위해 실험할 필요도 없을 것"이라고 말했다고 전했다.

해밀턴 대령은 또 미 공군이 실제든 시뮬레이션으로든 어떠한 무기화된 AI도 시험한 적이 없다며 "가설에 의한 것이지만 해당 사례는 AI로 구동되는 역량이 제기하는 현실 세계에서의 도전을 보여주며 이는 공군이 AI의 윤리적 개발에 전념하는 이유"라고 말했다.

미 공군도 가상훈련 관련 질의에 "공군은 그러한 AI 드론 시뮬레이션을 수행하지 않았으며 대령의 발언은 입증되지 않은 것으로 보인다"고 부인했다.

정혜정 기자 jeong.hyejeong@joongang.co.kr