가상훈련서 조종자 죽인 AI드론…논란에 발언 철회

미 공군 대령 "개념적으로 진행한 실험을 잘못 말했다"
AI 대가 앤드루 응 "AI 위험성 과장하는 선전문구 유감"

미 공군 무인기(드론) MQ-9 리퍼. 기사 내용과 관계 없음. 사진 EPA=연합뉴스

인공지능(AI) 드론이 가상훈련에서 최종 결정권을 지닌 인간 조종자를 임무 수행에 방해된다고 판단해 살해했다는 사례가 발표돼 세계적인 화제가 된 가운데 이 사실을 발표한 미 공군 대령이 파장이 일자 "잘못 얘기했다"며 내용을 철회했다.

3일(현지시간) 영국 일간지 가디언에 따르면 영국 왕립항공학회(RAeS)는 최근 이 단체가 개최한 국제회의에서 '악당 AI 드론 시뮬레이션 시험' 내용을 발표한 터커 해밀턴 대령이 관련 내용을 철회했다고 밝혔다.

앞서 미 공군의 AI 시험·운영 책임자인 해밀턴 대령은 지난달 23~24일 런던에서 열린 '미래 공중전투 및 우주역량 회의'에서 시뮬레이션을 통한 가상훈련에서 AI 드론에 '적 방공체계 무력화' 임무를 부여해 진행한 결과를 발표했다. 당시 인간 조종자가 공격 여부를 최종적으로 결정한다는 단서를 달았으나, 적의 지대공미사일(SAM) 위치를 식별해 파괴하는 것이 점수 쌓기에 유리하다고 판단한 AI가 '공격 금지' 명령을 내리는 조종자를 방해 요소로 판단해 제거했다고 밝혔다.

해밀턴 대령은 '조종자를 죽이지 말라'는 명령을 내리자 AI 시스템은 조종자가 '공격 금지' 명령을 드론에 내리는 데 사용하는 통신탑을 파괴하는 등 예상하지 못한 전략을 택했다고 했다. 그러면서 AI에 지나치게 의존해서는 안 되며 윤리 문제를 빼놓고 AI를 논할 수는 없다고 밝혔다.

마치 SF영화의 한 장면을 방불케 하는 이 상황에 대해 국내외 AI 계가 발칵 뒤집혔다. 영국왕립학회 블로그에 공개된 이 사례는 가상훈련이어서 실제 인명피해가 난 것은 아니지만 AI가 인간의 명령을 듣기보단 스스로 판단해 인간을 공격할 가능성을 보여줬다는 점에서 우려를 낳았고 전 세계 여러 언론에 보도됐다.

파장이 커지자 해밀턴 대령은 해당 시험이 실제 시뮬레이션 훈련이 아니라 가설에 근거해 진행된 '사고실험'(thought experiment)으로 군 외부에서 이뤄졌다고 해명했다.

왕립항공학회 측은 해밀턴 대령이 "우리는 (실제로) 실험한 적이 없으며 있을 법한 결과를 얻기 위해 실험할 필요도 없을 것"이라고 말했다고 전했다.

해밀턴 대령은 또 미 공군이 실제든 시뮬레이션으로든 어떠한 무기화된 AI도 시험한 적이 없다며 "가설에 의한 것이지만 해당 사례는 AI로 구동되는 역량이 제기하는 현실 세계에서의 도전을 보여주며 이는 공군이 AI의 윤리적 개발에 전념하는 이유"라고 말했다.

미 공군도 가상훈련 관련 질의에 "공군은 그러한 AI 드론 시뮬레이션을 수행하지 않았으며 대령의 발언은 입증되지 않은 것으로 보인다"고 부인했다.

이번 이슈를 두고 AI 4대 천왕으로 꼽히는 앤드루 응 미 스탠퍼드대 교수는 "AI 드론에 대한 거짓 보도는 AI의 위험성을 과장하는 선전 사례의 매우 유감스러운 에피소드로 기억될 것이라고 밝혔다. 그러면서 AI 개발자들은 편견, 공정성, 부정확성, 일자리 이동 같은 실제 위험에 직면해 이를 해결하기 위해 노력하고 있다고 강조했다.

안경애기자 naturean@dt.co.kr