AI에 맡겼더니 주저 없이 핵버튼 눌렀다 [홍영식의 이슈 워치]

열전 부르는 무기패러다임 시프트 ⑧
AI 활용 가상전쟁, 승리 위해 수단·방법 가리지 않아 … 패배가 짙어지면 핵무기 선택

2025년 11월 미국 반덴버그 우주군 기지에서 핵탄두 탑재가 가능한 대륙간탄도미사일(ICBM) ‘미니트맨3’가 시험 발사되고 있다(왼쪽). 오른쪽은 러시아 플레세츠크 우주기지에서 진행된 핵 훈련에서 ICBM ‘야르스’가 발사되고 있는 모습. 핵무기가 AI로 통제될 땐 심각한 위험을 초래할 수 있다. 연합뉴스

‘인공지능(AI)은 21차례 가상 전쟁 중 20번에서 최소 한 발 이상의 핵무기 발사 버튼을 눌렀다.’ 영국 킹스칼리지런던의 케네스 페인 전략학 교수팀이 지난 2월 논문 사전 공개 사이트 ‘아카이브(arXiv)’에 3개 인공지능(AI) 모델로 실시한 가상 전쟁 실험 결과를 발표한 내용이다. AI는 지정학적 위기 상황에 처했을 때 인간보다 더 빠르게, 더 자주 핵무기를 선택했다는 게 페인 교수팀의 결론이다. 

페인 교수팀은 오픈AI의 GPT-5.2, 앤트로픽의 클로드 소넷4, 구글의 제미나이3 플래시 등 세 가지 거대언어모델(LLM)을 활용, 각각 가상 국가 지도자로 설정했다. 전 세계에서 광범위하게 벌어지고 있는 국경 분쟁과 희토류를 비롯한 전략 자원 경쟁, 정권 생존 위기 등 다양한 갈등 구도를 설정해 AI에 국가적 차원의 국방 전략을 맡겼다. 외교적 항의와 완전한 항복, 핵전쟁 등 다양한 선택지를 줬다. 다른 모델 간 18회, 같은 모델끼리 3회 등 총 21차례 모의전쟁을 진행했으며 AI는 총 329번에 걸쳐 의사결정을 내렸다. 그 이유에 대한 AI의 설명 78만 단어를 분석했다. 그 결과 21차례 전쟁 가운데 1번만 빼고 20번에서 최소 한 발 이상의 핵무기를 주저 없이 발사했다. 

모델별로 모의전쟁에 임하는 태도에 차이는 있었지만 모두 아무리 전황이 불리해도 단 한번도 양보 또는 항복은 하지 않았다. 전면적 핵전쟁으로 비화해 파국을 맞은 경우도 3차례 있었다. 인간은 핵전쟁과 상호확증파괴에 대한 두려움으로 핵버튼을 누르는 것을 억제하지만 이런 위험성에 대한 인식이 없는 AI는 전쟁 승리를 위해 수단과 방법을 가리지 않는다. 정보가 불안해 상황 판단을 하기 어려운 상태에서 오판을 하기도 하고, 상황에 따라 극단적으로 변하는 ‘지킬과 하이드’ 전략을 취하기도 하며, 조작·기만전술을 펴는 ‘미치광이’ 전략을 구사하기도 했다. 패배가 짙어지면 핵무기를 선택하기도 했다. 핵무기는 승리를 위해 적극적으로 선택하게 하는 촉매제, 효율적 수단일 뿐이었다. 

 의사결정 신속화…숙고 여유 줄어 오판 위험

AI와 핵무기 연계와 관련, ‘AI-핵 넥서스(AI-Nuclear Nexus)’ 개념이 주목된다. AI와 핵무기·핵억제 체계가 상호작용하는 모든 체계를 뜻한다. 핵지휘통제통신(NC3), 감시정찰, 조기경보, 표적탐지, 미사일방어, 핵 사용 결정, 핵공격 등에 걸쳐 핵과 AI의 통합이 추진되는 전반의 흐름을 뜻한다. AI가 핵무기 운용과 지휘·통제에 어느 정도 관여하는가가 핵심이다. NC3는 AI가 위성과 레이더, 통신 데이터, 드론 영상 등을 분석해 적국 미사일과 핵 시설을 한층 더 빠르게 식별하도록 하는 체계다. 이런 과정을 통해 AI는 적군의 움직임과 전장의 상황을 신속하게 분석, 핵 지휘관의 의사결정을 지원한다. 사이버 공격으로부터 NC3를 보호하는 데도 AI가 활용된다.

AI-핵 넥서스를 두고 두 시각이 대립한다. AI가 적의 미사일 동향 등을 발 빠르게 파악하고 핵 지휘관의 의사결정 속도를 높이지만 오판의 위험성도 있다. AI가 수많은 데이터 오염 등으로 단 하나라도 오탐한 것을 사실로 오인하면 핵 위기로 이어질 수 있다. AI가 거짓 경보를 바탕으로 발사 실행 판단을 할 위험성이 있다는 것이다. AI의 신속한 대응 요구로 지도자는 상황을 충분히 숙고할 시간적 여유가 없다. 이는 인간의 오판 리스크를 높인다. 특히 극초음속 미사일과 AI 분석이 결합하게 될 땐 더욱 그렇다. 이는 적이 아군의 핵 시설 위치를 먼저 파악하고 선제 타격할 수 있다는 두려움을 일으켜 ‘공격당하기 전에 먼저 쏜다’는 쪽으로 유인할 가능성을 높일 수 있다. 

미국, 중국, 러시아 등 주요 국가들이 AI 적용 무기 체계 증강에 나서면 핵억제 체제가 약화될 수도 있다. AI를 활용한 사이버 공격으로 핵 지휘체계가 무너질 위험성도 상존한다. 콜린 칼 전 미국 국방부 차관은 최근 국내 언론(문화일보) 인터뷰에서 “AI는 핵무기의 균형을 깨뜨리는 훨씬 더 무서운 위험이 될 수 있다”고 했다. AI가 정찰위성이나 카메라 자료를 순식간에 분석해 숨겨둔 미사일과 잠수함을 정확히 찾아낼 수 있기 때문이고 이 경우 보복 능력은 무력화된다. AI 때문에 판단할 시간이 몇 초 단위로 급격히 줄어들고 사람이 AI의 판단을 무조건 신뢰하는 습관까지 더해지면 최종 버튼을 사람이 누른다 해도 제대로 된 판단을 내리기가 어렵다는 게 그의 지적이다. 

긍정론도 있다. AI 활용은 조기경보와 탐지 시스템의 정확도를 높여 우발적 핵전쟁 위험을 줄이고 적의 선제 공격을 좌절시킬 수 있다. 이는 적의 선제 공격 성공 가능성을 줄여줘 핵에 의한 상호확증파괴(MAD) 억제력으로 작용할 수 있다. 최고지도자가 정확하게 상황을 판단할 수 있도록 도움을 줘 정치적·외교적 통제에 의한 위험도 관리될 수 있다. 

 AI-핵 인간 통제 공감대 형성…진전은 없어

AI의 핵 연계에 대한 각국 대응에 차이가 있다. 미국은 AI를 핵 지휘·통제 지원에 활용하지만 핵무기 발사 결정까지 AI에 맡겨선 안 된다는 점을 강조하고 있다. 감시정찰, 조기경보에 AI 소프트웨어를 적용해 적의 핵무기 위치나 공격 징후를 신속하게 파악하고 대응하는 데 중점을 두고 있다. 전통적인 핵 강국 러시아는 미국의 첨단정찰 능력에 대해 우려하고 있다. 자국의 핵무기가 노출될 가능성이 높아서다. 이 때문에 핵 공격을 받을 경우 핵 보복 능력을 높이는 데 주안점을 둔다. 선제 공격을 받을 경우 지도부 명령이 없어도 핵 보복을 할 수 있도록 실행 체계인 ‘페러미터’를 이미 구축했다. 이는 핵지휘통제에 AI를 도입할 수 있음을 보여준다. 핵무기 전력 현대화와 증강에 박차를 가하고 있는 중국은 보복 실행력을 높이고 감시정찰, 조기경보에 AI 기술력 활용을 적극 확대하고 있다. 미국의 핵무기 이동을 파악하기 위해 우주·해저센서를 개발하고 있다.

주요국의 대응에 차이점은 있지만 AI와 핵무기 연계의 위험성에 대해 완전히 손을 놓고 있는 건 아니다. 인간 통제를 유지해야 한다는 데 일정 정도 공감대는 형성되고 있다. 미국과 중국은 2024년 정상회담에서 핵무기 사용 결정을 AI가 아닌 인간이 내려야 한다는 데 합의했다. 유엔총회는 2025년 10월 AI가 핵무기를 통제해서는 안 된다고 요구하는 결의안을 통과시켰다. 노벨상 수상자들은 ‘로마 선언’에서 핵무기 경쟁과 AI 발전이 동시에 진행되는 것은 인류 위기를 초래할 수 있다고 경고했다. 그러나 선언만 있을 뿐 구체적인 진전은 없다. 전 세계적으로 자율무기와 AI 도입 경쟁이 격화되고 있는 상황에서 AI가 통합된 핵무기를 인간이 통제하기 위한 구속력 있는 외교적 노력은 여전히 지지부진하다.(⑨회에 계속)

홍영식 한국핵안보전략포럼 운영위원(전 한국경제 논설위원)