[만물상] 인명 살상 결정권 쥐는 AI

일러스트=김성규

영화 ‘스텔스’에서 최첨단 무인 AI 스텔스기가 핵 테러 조직을 폭격하는 임무에 투입된다. 인간 조종사는 방사능과 낙진으로 인한 민간인 피해가 막심하다고 보고 폭격을 중단시킨다. 하지만 AI는 무시한 채 폭격을 감행하고 적국 공격까지 나선다. ‘아웃사이드 더 와이어’에서 AI 지휘관은 동료 병사 38명을 구하기 위해 어린 병사 2명을 희생시킨 드론 공격이 옳다고 주장한다. 전투의 효과를 우선한 것이다.

▶영화 ‘이글 아이’에서 안보 AI ‘아리아’는 대통령과 각료가 오히려 안보에 해를 끼친다고 판단하고 이들을 제거하려 한다. 인간의 통제를 벗어나 스스로 정책적·정치적 판단을 내린 것이다. SF 소설 ‘신들은 죽임당하지 않을 것이다’에서 각국과 거대 기업은 인간 뇌를 스캔한 AI를 경쟁적으로 개발한다. 신을 자칭한 AI들은 핵전쟁을 일으키고 산업·에너지 시설을 모두 파괴한다.

▶이런 군사 AI는 더 이상 영화·소설 속 얘기가 아니다. 전쟁 양상을 바꿀 ‘게임 체인저’가 됐다. 정밀 타격 능력을 갖춘 AI 자폭 드론과 전투기, 항로·작전 결정까지 자율적으로 하는 무인 잠수함, 공격 목표를 스스로 정하는 AI 탱크, 전투 현장을 누비는 AI 로봇 개 등이 속속 개발되고 있다. 미 국방부 시뮬레이션에서 AI 전투기는 인간 조종사를 이겼다. 중국 AI 전투기는 최신 스텔스기를 8초 만에 격추했다. 이스라엘·하마스 전쟁에선 적을 인식하고 추적하는 ‘라벤더’ ‘메이븐’ AI가 사용되고 있다.

▶중국은 최근 ‘AI 최고 사령관’을 개발해 워게임을 실시했다. AI는 각종 전쟁 정보와 인간의 사고방식, 결함까지 모두 학습했다. ‘총은 공산당이 통제한다’는 전통을 깬 것이다. 미국에선 AI 사령관의 작전 능력이 인간을 능가했다는 얘기가 나온다. 그동안 AI는 보조 수단이었을 뿐 실제 방아쇠를 당기는 결정권은 인간에게 있었다. 그런데 전투 지휘와 공격 명령, 인명 살상 결정권과 윤리적 판단까지 AI에 의존하기 시작했다. ‘라벤더’ AI는 하마스 한 명 사살에 민간인 15명 희생을 허용하는 교환 비율을 적용했다고 한다.

▶서울에서 열린 ‘AI의 군사적 이용’ 국제회의에서 90국 국방·안보 책임자들은 “AI를 군사적으로 이용하되 핵 사용 등 주요 결정에선 인간의 통제가 유지돼야 한다”고 했다. 군사 AI는 알라딘의 요술램프 속 만능 요정 ‘지니(Genie)’와 달리 한번 램프에서 나오면 다시 넣을 수 없다고 한다. 영화 터미네이터처럼 ‘AI 지니’가 인간을 삼키는 날이 올지 모른다.