“거의 전쟁 날 뻔했다” AI 오판에 미군, 중국 선박 군사작전 준비

오만 무산담에서 바라본 호르무즈 해협의 선박들 [로이터]

[헤럴드경제=손미정 기자] 미군이 인공지능(AI)의 거짓보고 때문에 중국 선박을 대상으로 군사 작전을 준비했던 사실이 뒤늦게 알려졌다.

18일(현지시간) CNN 방송에 따르면 이란전이 진행 중이던 올 봄 미군 내부에서 중동에 있던 중국 선박 한 척이 핵무기 프로그램 관련 구성 요소를 수송하고 있다는 내용의 정보 보고서가 회람됐다.

복수의 소식통은 당시 미군은 정보를 바탕으로 즉각 해당 선박을 차단하기 위한 작전 준비에 들어갔다. 무장한 미군 병력이 선박에 오를 준비를 했고 군용기까지 출격한 상태였던 것으로 알려졌다.

하지만 작전은 실행 직전 중단됐다. 당국자들이 보고서 추가 검토 과정에서, 해당 보고서가 특수작전사령부 분석관이 AI의 도움을 받아 작성했고, 심지어 해당 AI가 챗봇이 선박에 실려 있던 화물을 잘못 식별했다는 사실이 밝혀지면서다.

만약 추가 검토 없이 군사 작전이 그대로 실행됐다면 미중 간 무력 충돌로 확전됐을 가능성이 높다.

한 소식통은 해당 보고서가 “전적으로 거짓이었다”며 이로 인해 “거의 전쟁이 시작될 뻔했다”고 전했다.

CNN은 이번 사건이 미 국방부와 정보기관이 AI 활용을 빠르게 확대하는 가운데, AI의 오류가 실제 군사적 오판으로 이어질 수 있다는 위험성을 보여주는 사례라고 꼬집었다.

실제 피트 헤그세스 국방장관은 지난 1월 ‘AI 가속화 전략’을 발표하고 정보 분석과 표적 선정 등 군 업무 전반에 AI 도입을 확대하고 있다. AI를 단순한 행정·분석 도구가 아니라 전투계획과 표적 선정 등 실제 군사 의사결정 과정에까지 활용도를 넓히는 추세다.

한 소식통은 “표적 선정에 AI 활용이 분명히 확대되는 추세”라며 “민간인 피해나 아군 오인 공격을 어떻게 막을지에 대한 실질적인 지침은 없다”고 말했다.

아울러 일각에서는 군사 분야의 AI 오판 가능성을 둘러싸고 핵무기 분야에 적용되는 것과 유사한 안전장치를 마련해야 한다는 목소리도 나오고 있다. 군사 AI가 잘못된 정보를 바탕으로 위협을 판단하거나 공격 결정을 지원할 경우, 인간이 오류를 발견하고 개입할 시간이 매우 짧아 오판이 실제 충돌로 이어질 수 있다는 우려에서다.

로이터는 최근 한 보도를 통해 미·중 전문가들이 AI가 군사적 위기 상황에서 잘못 작동하거나 양국의 군사 시스템이 오인할 가능성에 대비해 미·중 간 긴급 연락망을 구축하고, AI 시스템의 운용 범위와 인간의 최종 승인 원칙 등을 사전에 합의하는 방안을 제안하고 있다고 전하기도 했다.