AI가 바꾸는 전장...“한 사람이 드론 10만대 지휘한다”[제27회 세계지식포럼]

“AI가 모든 군사 자산 운용하고 가동하게 될 것”
치명적인 무력 사용 판단은 인간이 결정하는 구조
“인간은 교전 수칙 정하고, AI가 일탈할 때 개입”
소버린 AI는 필수...SW 스스로 조정할 수 있어야

브랜던 쳉 실드AI 공동창업자 겸 사장(가운데)이 9일 서울 신라호텔에서 열린 제27회 세계지식포럼 세션에서 AI가 가져 올 방산 산업의 변화에 대해 설명하고 있다. [김호영 기자]

전장용 인공지능(AI)과 자율 드론이 전쟁의 성패를 가르기 시작하며 방산 산업도 패러다임이 바뀌고 있다. 전 세계 국가들이 수백만 대의 드론 부대를 갖추기 시작하고, 인간 개입 없이 전장을 휘저을 AI 시스템 확보에 나섰다. 앞으로 전쟁의 양상은 어떻게 변화하게 될까.

브랜던 쳉 실드AI 공동창업자 겸 사장은 9일 서울 신라호텔에서 열린 제27회 세계지식포럼 ‘방산시장에 부는 AI 혁명’ 세션에서 “미래 전장의 핵심은 AI가 물리적인 시스템에 적용되는 것”이라며 “앞으로는 모든 군사 자산이 인간의 감독 아래 AI에 의해 운용·지휘·가동되는 모습을 보게 될 것”이라고 내다봤다.

쳉 사장이 지난 2015년 설립한 방산 AI 기업인 실드AI는 AI 파일럿 소프트웨어인 ‘하이브마인드’와 함께 자율드론과 같은 기체를 개발하는 곳으로, 평가받는 기업가치는 가치 127억달러(약 18조원)에 달한다.

이날 쳉 사장은 세계 2차대전을 거치며 전투기 이착륙이 가능한 함정이 등장하면서 기존의 핵심 전력이었던 전함이 사라졌듯이, 현시점은 AI로 인해 전 세계 군대가 기술 전환기를 맞은 시기라고 짚었다.

항공모함과 전투기가 대부분의 작전을 수행하는 단계를 넘어 이제는 AI와 자율드론이 핵심으로 부상하고 있다는 설명이다.

AI가 왜 이러한 파급력을 가져오는지에 대해 쳉 사장은 “AI는 플랫폼이 GPS 통신 불통상황에서도 운용될 수 있게 해주고, 임무를 완전히 자율적으로 수행한다”라면서 “어쩌면 가장 중요하게는 ‘스워밍(군집 공격)’을 가능하게 하기 때문”이라고 덧붙였다. AI 기반으로 수천 대의 드론을 활용해 협력 공격을 수행하는 것이 스워밍의 예시다.

전장에 투입되는 인간 병력이 줄고 AI 기반 자율 기기가 투입되는 것도 하나의 변화다. 쳉 사장은 “AI와 자율성의 역할은 현역 병력을 전장에서 떼어내는 것으로, 더 이상 인간이 한계 요소가 아니게 된다”라며 “AI가 있으면 한 명의 사람이 드론 10만대를 지휘할 수 있게 된다. 이제 한계는 산업의 생산 능력뿐”이라고 말했다.

물론 이같은 변화가 전통적인 전력이 필요 없음을 의미하지는 않는다.

이날 연사들은 극소수의 정밀 자산을 드론과 같은 수백만개의 지능적이고 저렴한 시스템이 보강하는 ‘하이·로우 믹스’ 체제로 전력의 개념이 전환될 것이라고 봤다. 이날 대담에 함께 한 프랭크 몰리 노스럽그루먼 해외사업 총괄은 “고급 전력과 전통적인 교전용 전력을 어떻게 결합할 것인지가 앞으로 방산업계의 의사결정이 큰 축이 될 것”이라고 말했다.

이같은 미래의 전장에서 자체적인 AI 기술력을 확보하는 소버린 AI 중요성도 논의됐다. 쳉 사장은 “소버린 AI의 개념은 국가 안보에 대한 우려에서 출발한 것”이라며 “만약 미국과 분쟁을 하고 있는데, 그런 상황에서 미국 기업에 ‘모델을 업데이트해야 한다’고 요청해야 하는 상황을 상상해보라”라며 예시를 들었다.

이어 “국가 안보 기반 기술을 외부에 의존해야 하는 것은 끔찍한 상황”이라고 경고했다. 몰리 총괄 또한 “보유하고 활용하는 소프트웨어를 스스로 개선하고 조정할 수 있는 능력이 핵심”이라고 강조했다.

전장에서 AI 기술 활용을 논할 때 항상 논의되는 주제는 자율형 살상 무기의 활용 원칙과 기준을 어떻게 설정하고 인간의 통제를 어떻게 확보할지다. 쳉 사장은 “치명적인 무력 사용에 대한 도덕적 판단은 인간이 내려야 할 결정”이라며 “다른 사람의 생명을 빼앗을지 결정하는 것은 인간의 판단”이라고 선을 그었다.

AI가 자율적으로 전장에서 활용되는 순간 인간의 의사결정이 필수적으로 반영되어야 한다는 의미다.

몰리 총괄은 전쟁의 속도를 고려해야 한다며 “인간이 교전 수칙만 미리 정해둔 다음 그 체계를 모니터링하면서, AI의 일탈이 발생할 경우 인간이 개입하는 방식이 일반화될 것”이라고 설명했다. 한편 “적군이 항상 이러한 규칙을 똑같이 따르지는 않을 수 있다는 점도 고려해야 한다”고 조언했다.

AI가 바꿀 전쟁의 모습은 더 비극적인 결과로 이어질까. 이 질문에 대해 쳉 사장은 “전쟁은 여전히 극도로 파괴적일 것이고, 앞으로는 규모도 커지고 속도도 빨라질 것”이라고 현실을 짚으면서도 “자율 시스템이 등장이 갈등을 억지할 수 있다고 생각한다”라고 희망적인 면도 역설했다.