"AI 허위 보고에 하마터면 미·중 전쟁날 뻔"

AI 오판으로 중동 해역 중국 선박 나포 직전 중단
무장병력 승선·군용기 출격 등 충돌 위기 고조
안전 기준 없는 AI 확대 도입에 군사적 오판 우려

비행 중인 미 공군의 F-35A '라이트닝 II'전투기 편대. 미 국방부 제공

미군이 인공지능(AI) 챗봇이 생성한 허위 정보를 바탕으로 중동 해역의 중국 선박을 나포하려다 작전 직전 전격 중단한 사건이 뒤늦게 밝혀졌다. 실제 집행됐다면 미·중 간 직접적인 무력 충돌로 이어질 뻔한 일촉즉발의 상황이었다.

올봄 이란과의 군사적 긴장이 고조되던 당시 미군 내부에는 "중동 해역을 운항 중인 중국 선박 한 척이 핵무기 프로그램 관련 부품을 수송하고 있다"는 내용의 정보 보고서가 회람됐다. 해당 보고서는 미 특수작전사령부 소속 분석관 명의로 작성됐다.

보고서를 확보한 미군은 즉각 해당 선박을 차단·나포하기 위한 작전에 착수했다. 무장한 미군 병력이 선박 승선 준비를 마쳤고, 작전 지원을 위한 군용기까지 이미 공중에 띄운 상태였다.

그러나 작전 개시 직전 당국자들이 보고서를 재검토하는 과정에서 치명적인 오류가 포착됐다.

분석관이 하와이 미 태평양특수작전사령부의 적하목록 첩보를 AI 챗봇에 질의했으나, 챗봇이 공개 정보와 기밀 신호 정보를 통합 분석하며 일반 화물을 핵무기 부품으로 잘못 식별한 것이다.

분석관은 이 검증되지 않은 결론을 표준 정보 보고서 양식으로 만들어 내부에 배포한 것으로 나타났다.

현지 소식통은 "해당 보고서는 전적으로 거짓이었다"며 "보고서 하나 때문에 하마터면 전쟁이 시작될 뻔했다"고 급박했던 당시 상황을 전했다.

이번 사태는 미 국방부가 업무 전반에 AI 도입을 속도감 있게 추진하는 과정에서 발생했다. 피트 헤그세스 미 국방장관은 지난 1월 'AI 가속화 전략'을 발표하며 약 300만명의 군 및 민간 인력에게 AI 모델을 배포하겠다는 방침을 내놨으나, 각 부처 간 교차 검증 시스템이나 안전 가이드라인은 미비한 상황이다.

군 내부에서는 AI 도입 급증에 따른 부작용을 경고하는 목소리가 커지고 있다.

한 당국자는 "표적 선정 등 핵심 분야에서 AI 활용이 확대되고 있지만, 인간이 의사결정에 개입하더라도 오인 사격을 어떻게 예방할지에 대한 실질적 지침이 없다"며 "AI가 분석관들에게 빠른 생산을 압박해 오판의 여지를 넓히고 있다"고 지적했다.