[김광진의 남산공방] AI가 바꾸는 전장, 승부는 사람과 조직

최근 인공지능(AI)이 잘못된 군사작전을 일으킬 뻔한 사건이 알려진 바 있다. 9월 18일 CNN은 미군이 이란과의 전쟁 중 중국 선박의 화물을 핵 프로그램 관련 요소로 알고 군사 개입을 준비했다가 실행 단계 직전에 잘못을 발견해 중단했다고 보도했다. 이 사건의 발단에는 AI 도움으로 작성한 정보 분석 보고서가 있었다.

오늘날 군사작전에서 AI 의존은 점점 커지고 있다. 대이란 작전을 책임지고 있는 미국의 브래드 쿠퍼 중부사령부 사령관은 과거에 몇 시간, 때로는 며칠 걸리던 정보처리가 AI 덕분에 수초로 감소한다고 설명한다. 러시아-우크라이나 전쟁에서 우크라이나의 ‘어벤져스 AI 연구소’는 드론 등이 탐지한 수많은 영상정보를 실시간으로 자동 분석해 공유하고 있다. 미국의 대이란 전쟁에서는 ‘메이븐 스마트 시스템(MSS)’이 정보 통합과 표적 식별, 작전 판단까지 지원하고 있다고 한다. 이러한 AI 역할 부각은 강대국의 정책에서도 나타나고 있다. 미국은 국방 AI 가속화를 위해 국방조직을 AI 우선 전투조직으로 전환한다고 밝혔다. 중국도 제15차 5개년 계획에서 지능화 군사체계 구축을 강조했다.

이러한 경쟁의 배경에는 AI의 강점이 있다. 방대한 영상과 문서의 처리와 정보 패턴 비교 등에서 AI는 인간의 능력을 넘어선다. 이러한 AI 덕분에 상황 파악과 대안 검토에 드는 시간을 줄일 수 있고, 그 결과 적보다 빠른 판단과 행동도 가능해지는 것이다. 더구나 AI가 탐지와 분석을 넘어 대안 제시까지 맡으면서 인간의 역할은 점차 줄어드는 듯하다. 그러나 앞서 예를 든 중국 선박 사건은 AI 판단이 정확하지 않을 수 있음을 보여준다. 이것은 결국 군사작전에서 AI의 분석 결과를 평가하고 활용하는 인간의 역량이 필요함을 의미한다. AI 분석을 검증하고 보완할 인간의 전문성과 판단력이 요구되는 것이다.

사실 AI 시대 전장에서의 도전은 다양하다. 거대언어모델(LLM)은 외부 문서에 숨겨진 악성 지시에 이끌려 응답이 왜곡되는 ‘프롬프트 인젝션’에 노출될 수도 있다. 또한 지휘관이 AI가 제시한 대안만 검토한다면, 애초에 AI가 누락시킨 방안은 선택지에서부터 사라질 위험도 있다. 이러한 상황들에 대처하려면 훈련되고 판단력 있는 사람이 정보의 출처를 검증하고 AI가 빠뜨린 대안을 찾아낼 수 있어야 한다. 따라서 AI 시대 군사작전에는 첨단 AI 기술과 더불어 AI의 한계와 문제점까지 관리할 수 있는 조직적 역량이 요구된다.

군사학자 스티븐 비들의 논의도 이와 맞닿아 있다. 그는 20세기 이후 전투의 성패가 기술 혁신 자체가 아니라 그 결과를 극대화할 수 있는 훈련과 조직적 역량에 달렸다고 분석했다. 이를 오늘날 상황에 적용하면, AI 역시 교리와 교육·훈련 속에 정착시켜야 한다는 뜻이다. 이러한 관점에서 한국 국방의 AI 전환도 소버린 AI 확보와 데이터·첨단 알고리즘 개발만으로는 충분하지 않다. 군 지휘관과 운용자, 분석가, 엔지니어가 함께 배우고 협업하는 체계도 갖춰야 한다. AI 시대의 경쟁력은 AI를 인간과 조직에 얼마나 효과적으로 통합하느냐에 달려 있다. 미래전장의 우위를 확보하려면 기술과 함께 AI를 이해하고 검증하며 활용하는 사람, 곧 휴먼 캐피털에 투자해야 하는 것이다.

김광진 한국안보전략·시스템학회장 전 공군대학 총장