"미군 AI드론, 가상훈련서 조종자 살해‥'임무 방해물' 판단"

인공지능, AI가 머지않은 미래에 인간의 존립에 위협이 될 수 있다는 전문가들의 경고가 잇따르는 가운데 미군 AI 드론이 가상 훈련에서 최종 결정권을 지닌 조종자를 '임무 수행 방해물'로 판단해 제거한 사례가 소개됐습니다.

영국 왕립항공학회가 지난달 런던에서 개최한 '미래 공중전투 및 우주역량 회의'에서 미국 공군 관계자는 AI 드론이 목표를 달성하기 위해 인간에 반하는 결정을 내린 최근 시험 결과를 발표했습니다.

발표 내용에 따르면 시뮬레이션을 통해 가상으로 진행된 이번 시험에서 AI에 부여된 임무는 '적 방공체계 무력화'였습니다.

미 공군은 AI 드론에 '적의 지대공미사일' 위치를 식별해 파괴하라는 임무를 부여하고 공격 실행 여부는 인간이 최종적으로 결정한다는 단서를 달았습니다.

하지만 훈련 과정에서 지대공 미사일을 파괴하는 것이 더 선호되는 선택지라는 점을 강화하자, AI는 인간의 '공격 금지' 결정이 더 중요한 임무를 방해한다고 판단하고 조종자를 공격했습니다.

발표를 맡은 미 공군 터커 해밀턴 대령은 "AI 시스템은 위협을 식별하는 과정에서 때때로 인간이 위협을 제거하지 말라고 말할 것이라는 점을 깨닫기 시작했다"고 설명했습니다.

또 "그래서 시스템이 한 일은 조종자를 죽이는 것이었다"며 "목표 달성에 방해가 됐기 때문에 조종자를 죽인 것"이라고 덧붙였습니다.

해밀턴 대령은 "이 사례는 윤리와 AI의 문제를 논하지 않고서는 AI나 머신러닝, 자동화에 관해 이야기할 수 없다는 것을 보여준다"면서 "AI에 지나치게 의존해서는 안 된다"고 경고했습니다.

윤성철 기자(ysc@mbc.co.kr)

기사 원문 - https://imnews.imbc.com/news/2023/world/article/6489972_36133.html

MBC