전쟁 지휘하는 인공지능…‘완전자율무기’ 향한 위험한 속도전

⑨ AI 무기화

미국 인공지능(AI) 무기화의 ‘선봉장’인 피트 헤그세스 국방장관이 지난 7일 미국 델라웨어주 도버 공군기지에서 마이애미로 향하는 대통령 전용기 기내에서 기자들과 대화하는 도널드 트럼프 대통령 뒤에 서 있다. AP 연합뉴스

1991년 1월 걸프전 당시 미군의 이라크 공습은 시엔엔(CNN) 중계를 통해 전세계에 그대로 전달됐다. 정밀유도 무기가 목표물을 정확히 관통하는 장면은 ‘스마트 폭탄’의 위력을 각인시켰고, 스텔스 전폭기, 공중조기경보통제기, 위성 위치 추적 등 첨단 무기체계가 총동원된 ‘사막의 폭풍’ 작전은 새로운 전쟁 시대의 개막을 알렸다. 그러나 전쟁사의 한 페이지를 장식한 이 작전에서도 미군은 사담 후세인 이라크 대통령을 ‘참수’하지는 못했다. 미군은 정보기관이 제공한 기밀 정보를 토대로 개전 첫날부터 후세인 제거를 목표로 지휘부 은거지를 정밀 폭격했지만, 결과는 참담한 실패였다. 이런 실패는 12년 뒤인 2003년 이라크 전쟁에서도 반복됐다.

반면 올해 1월 베네수엘라 급습과 2월 이란 침공에서는 전혀 다른 장면이 펼쳐졌다. 공교롭게도 두 작전 모두 침공 당일 상대국 최고지도자가 각각 체포되거나 사망했다. 수십년 동안 미국에 맞서 요새를 쌓아온 니콜라스 마두로 베네수엘라 대통령과 아야톨라 알리 하메네이 이란 최고지도자가 단 하루도 버티지 못한 것이다. 실시간으로 적국 지도자의 위치와 동선을 추적하는 이 정보력의 밑바탕에는 광범위한 사이버 해킹과 인공지능(AI)이 있다. 거리 모퉁이, 초인종 카메라, 고속도로 요금소 등 곳곳에 깔린 전자 센서가 쏟아내는 방대한 데이터를 인공지능이 실시간으로 걸러내는 기술이 ‘요인 이동 감시’를 근본적으로 바꿔놓았다고 뉴욕타임스는 분석했다.

인공지능의 활용은 요인 추적에만 그치지 않는다. 인공지능이 실제 군사작전을 지원하는 역할까지 본격적으로 하고 있다. 특히 이란 침공은 전쟁사에서 인공지능이 대규모 전투에 활용된 첫 전쟁으로 기록될 만한 전환점이다.

대규모 전투에 처음 투입된 AI ‘클로드’

미 국방부는 2024년 11월부터 아마존 클라우드와 팔란티어의 ‘메이븐 스마트 시스템’ 위에 앤트로픽의 거대언어모델 ‘클로드’를 탑재한 기밀용 인공지능 시스템을 구축했다. 정보 분석, 표적 식별, 전투 시나리오 모의실험이 핵심 역할이며, 국방·정보기관이 방대한 데이터를 신속 처리해 의사결정을 하도록 지원하는 것이 목표였다.

이 시스템은 이란 침공에서 실체를 드러냈다. 워싱턴포스트 등에 따르면, 미군은 개전 첫 24시간 동안 1천개에 이르는 표적을 타격하기 위해 인공지능을 활용했다. 메이븐과 연동된 인공지능은 수백개 표적 후보와 정밀 좌표, 우선순위를 제시해 수주 걸리던 전투 계획을 사실상 실시간 작전으로 바꿔놓았다는 평가다. 2014년 이슬람국가(IS) 공습에서 첫 6개월 동안 2천개 안팎의 목표물을 타격한 것과 비교하면, 하루 1천개 타격은 인공지능 없이 불가능한 속도다.

잠재적 표적에 대한 위성 이미지를 제공·분석하는 미 국가지리공간정보국(NGA)의 프랭크 휘트워스 국장은 지난해 5월 “메이븐 스마트 시스템은 드론·위성 영상에서 지형과 물체를 더 빨리 탐지·식별하도록 설계됐다”며, 전쟁에서 “고품질의 표적 선택·배제 결정을 1시간에 1천번 내리는 것”이 목표라고 밝혔다. 실제로 한 부대가 정보 포착부터 교전까지 걸리는 시간이 ‘수시간에서 수분’으로 줄어든 사례도 제시했다. 최근 1~2년 사이 미군의 인공지능 활용도가 질적으로 도약했다는 해석이 가능하다.

하지만 의사결정의 극단적 가속화는 통제·감독 공백을 키운다는 우려를 낳는다. 이란 공습 과정에서 175명이 숨진 여자 초등학교 오폭은 그 위험을 단적으로 보여준다. 뉴욕타임스가 입수한 미 국방부 잠정 조사 결과를 보면, 이 사건은 표적 지정 실수 때문이었다. 미 중부사령부 장교들이 국방정보국(DIA)이 제공한 오래된 정보를 바탕으로 공격 좌표를 설정한 것으로 드러났다. 클로드가 직접 표적을 생성한 것은 아니지만 메이븐 및 다른 소프트웨어와 연동돼 관심 지점을 추려내는 데 보조 역할을 한 것으로 알려졌다. 당국자들은 새로운 기술 탓이라기보다는 전시 상황에서 나타나는 ‘전형적인 인간의 실수’로 보고 있다고 설명한다. 하지만 표적 식별에서 타격까지 걸리는 시간이 눈에 띄게 짧아지면서 오류를 걸러낼 완충 장치와 검증 절차가 뒷전으로 밀렸을 가능성이 커 보인다.

‘AI 무기화’에 올인한 트럼프 행정부

인공지능 성능이 강력해질수록 이를 군사적으로 활용하려는 국가의 유인은 커진다. 최근 미 국방부와 앤트로픽 간 갈등은 이러한 압력이 정면충돌한 사례다. 피트 헤그세스 국방(전쟁)부장관은 올해 1월 ‘미국의 군사 인공지능 지배 가속화’라는 제목의 인공지능 전략 지침을 하달했다. 이 문서엔 미국이 인공지능 무기화 경쟁에서 우위를 점하려는 군사적 욕망이 적나라하게 드러나 있다.

헤그세스가 가장 강조한 키워드는 속도다. 그는 “군사 인공지능 경쟁은 결국 속도가 승패를 가를 것”이라며, 인프라·데이터·모델·정책·인재 등 통합 기반을 단기간에 구축하는 ‘속도 선도 프로젝트’를 지시했다. 특히 그는 “인공지능과 자율성을 군사 계획, 전술·전법·절차 개발, 실험 프로세스 전반에 더욱 깊이 통합해야 한다”며, 인공지능과 자율 체계를 실질적으로 적용하지 않는 연습과 실험에는 예산 재조정을 경고했다. 인공지능 무기화에서 가장 논란이 되는 부분이 바로 완전자율무기 체계 적용이다. 전투가 인간의 통제를 벗어나 사태를 악화시킬 수 있는 탓이다. 헤그세스가 완전자율무기를 언급하지는 않았으나, 그 길로 들어섰음을 시사한다.

헤그세스는 전투력의 기하급수적 향상을 위해 스웜 포지(군집 드론 전술), 인공지능 기반 전투지휘·의사결정 지원, 인공지능 전투 시뮬레이션 강화라는 세 축을 제시했다. 국방부가 공개한 영상에는 한 운용자가 버튼 한번에 세대의 드론으로 세개 목표물을 동시에 타격하는 장면이 등장한다. 이는 일대일 타격에서 다중 표적 동시 타격으로의 전환이자, 군집 드론 간 교전이라는 미래 전쟁 경쟁의 서막을 알리는 신호다.

헤그세스는 동시에 “이상주의를 버리고 현실주의로 가야 한다”며, 이념적 조정이 들어간 인공지능 모델은 쓸 수 없고 합법적 군사 이용을 제한하는 정책적 제약이 없는 모델만 국방부에 도입해야 한다고 못박았다. 그는 이를 180일 이내에 업체들과의 계약서에 명시하라고 지시했다. 국방부와 앤트로픽이 갈등 끝에 결별 수순에 들어간 것도 이 지점에서 비롯됐다. 국방부가 새 계약을 요구하자 앤트로픽은 완전자율무기, 국내 대규모 감시, 정부와 인공지능의 관계 등 몇 가지 쟁점을 제기하며 기술 제공 조건을 내걸었다고 한다. 앤트로픽은 인공지능 안전성을 핵심 정체성으로 삼고 있는 기업이지만, 최근까지 국방부 기밀 시스템에서 운영 승인을 받은 유일한 생성형 인공지능 업체다.

통제권을 벗어나는 AI 무기화

국방부는 납품받은 제품의 사용 권한은 정부에 있는데 왜 기업이 운용에 간섭하느냐며, 전쟁·테러 대응에서 일일이 민간 기업의 허가를 구할 수 없다는 논리를 편다. 도널드 트럼프 대통령도 “급진적 좌파 기업이 우리의 위대한 군대가 싸우는 방식을 지배하도록 두지 않겠다”며, 결정권은 국군통수권자와 군 수뇌부에 있다고 맞장구를 쳤다. 일견 그럴듯해 보이지만, 이는 인공지능이 고위험 군사 임무에 투입될 만큼 안전성이 충분히 검증되지 않았다는 점을 외면한다는 비판을 피하기 어렵다.

앤트로픽의 다리오 아모데이 최고경영자는 ‘이코노미스트’와의 대담에서 “항공기 제조사가 특정 고도·속도 이상 비행은 안전하지 않다고 경고하는 것과 같다”며, 자사 모델이 완전자율무기 등 특정 용도에 맞게 설계되지 않은 이상 그런 사용에는 부적합하다고 말할 책임이 있다고 강조했다. 그는 극단적으로 “단 한 사람이 버튼을 쥐고 1천만대 드론을 통제할 수 있는 상황”을 경고하며, 민간 기업과 정부 어느 한쪽에도 통제권이 과도하게 집중되지 않도록 의회가 나서 규칙을 정해야 한다고 촉구했다.​​

국방부-앤트로픽 충돌은 군사기술 경쟁에서 앞서가려는 국가적 욕망과 인공지능의 안전성에 대한 우려가 정면으로 충돌한 첫 사례라는 점에서 상징성이 크다. 트럼프 행정부는 바이든 행정부 시절 마련된 안전 관련 정책을 폐기하고, 주 차원의 인공지능 규제를 무력화하는 행정명령에 서명하는 등 속도에 분명히 무게를 두고 있다. 문제는 미국이 이렇게 인공지능 무기화를 가속하면, 전략적 경쟁 상대인 중국 역시 비슷한 길을 걸을 가능성이 크다는 점이다.

국제정치 이론에서 말하는 ‘안보 딜레마’가 그대로 작동한다. 한 국가가 안전을 위해 취한 조처가 상대국의 불안을 키우고, 결과적으로 군비 경쟁과 상호 위협 고조로 이어지는 악순환이 발생한다는 얘기다. 미·중 양국이 인공지능 무기화 선점을 둘러싸고 속도 경쟁에 나설수록 인공지능 안전 규범이 자리 잡을 공간은 좁아진다. 인공지능 양대 강국 간 ‘바닥으로의 경쟁’이 본격화할 것이라는 우려가 커지고 있다.

박현 논설위원 hyun21@hani.co.kr