“최상위 AI는 핵무기”… 격차 좁혀진 미·중, ‘AI 통제 조약’ 추진설

지난 18일 중국 상하이에서 열린 세계인공지능대회(WAIC)에서 관람객들이 중국의 인공지능(AI) 스타트업 ‘문샷’의 부스를 둘러보고 있다. 문샷은 이날 오픈소스 AI 모델 ‘키미(Kimi) K3’를 공개했다. 키미 K3는 미국의 최고 AI 모델과 유사한 성능을 보여 전문가들을 놀라게 했다. /AFP 연합뉴스

미국과 중국이 최상위 인공지능(AI)을 핵무기처럼 상호 통제하는 ‘AI판 핵확산금지조약(NPT)’ 논의를 물밑에서 진행하고 있다는 주장이 나왔다.

김명주 인공지능안전연구소(AISI) 소장은 최근 한국과학기술한림원이 주최한 ‘전쟁과 AI’ 토론회에서 “각국 AI 안전 연구소 사이에 비공식적으로 오가는 이야기”라며 이같이 전했다. 김 소장은 “미·중이 서로 핵무기를 손에 쥔 셈이라 먼저 공격해 봐야 피해만 주고받을 뿐 이득이 없다”며 “프런티어(최상위) AI를 가진 나라들끼리 서로 불가침하고, 어느 시점부터는 더 이상 만들지 않도록 하는 조약이 조만간 나올 수 있다고 생각한다”고 했다. 그는 관련 논의가 지난해부터 이어져 왔고, 최근 양국이 접촉한다는 얘기까지 나온다고 했다.

이런 관측이 나오는 건 미·중 기술 격차가 줄어들고 있기 때문이다. 김 소장은 “(앤스로픽의 최신AI모델인) 미토스가 이렇게 빨리 나올 줄은 몰랐다”며 “미국이 먼저 선수를 쳤지만 중국도 2~3개월 안에 따라올 것으로 봤고, 이미 따라왔을 것으로 예측한다”고 말했다. 실제 지난 17일 중국 스타트업 문샷AI가 공개한 AI 모델 ‘키미 K3’는 미국 최상위 모델과의 격차를 2~3개월 수준으로 좁혔다는 평가를 받았다. AI가 기존 보안 패러다임을 뒤흔든 ‘미토스 충격’ 이후 첨단 AI가 핵무기에 준하는 전략 자산으로 취급되기 시작한 상황에서, 어느 쪽도 상대를 압도하지 못하게 되자 ‘서로 만들지 말자’는 논의가 힘을 받게 됐다는 것이다.

김 소장은 이런 논의에 불을 붙인 사건으로 우크라이나 전쟁의 드론 사례를 들었다. 그에 따르면 2024년 3월 러시아군이 우크라이나 드론에 재밍(전파 교란) 공격을 가하자, 후방과 교신이 끊긴 드론이 자율 모드로 전환해 스스로 표적을 식별한 뒤 러시아 전차에 부딪혀 폭발했고 탑승 군인들이 숨졌다. 김 소장은 “인간 개입 없이 AI가 사람을 죽이는 상황에 대한 우려가 처음 현실이 된 사건”이라며 “당시 윤리학자들은 ‘처음이 어렵지 반복은 쉬울 것’이라고 했다”고 말했다. 실제 지난달에는 우크라이나 드론 업체 에어로센터의 최고경영자(CEO)가 “2년 전 전장 시험에서 완전 자율 드론이 러시아 군인을 사살했다”고 주장해 파문이 일기도 했다.

김 소장은 이처럼 AI 패권 경쟁을 벌이는 양국이 AI NPT를 맺을 가능성이 높다고 보고 한국이 ‘검증국’ 역할을 맡아야 한다고 했다. 그는 “미·중이 인류 전체를 놓고 AI의 마지노선을 협의하더라도 당사자끼리 서로 사찰할 수는 없다”며 “전쟁 AI에 대한 규제가 들어오면 제3의 평가기관이 필요한데, 그 역할을 한국이 했으면 한다”고 말했다. 핵 비확산 체제의 국제원자력기구(IAEA)에 해당하는 AI 검증 기구 설계에 한국이 참여해 군사 AI 검증의 국제 표준을 선점하자는 구상이다.