中, AI '통제 불능' 위험성 경고하면서도…美 추격전은 가속

中당국, AI의 자기 복제·기만 등 AI 위험 담은 지침 3년째 갱신
美와 기술 격차 좁히기 급선무…"'인류 멸망론'은 선진국 고민"

(서울=연합뉴스) 권숙희 기자 = 미국의 인공지능(AI) 업계에서 인류 멸망론과 개발 속도 조절론이 급속도로 부상한 가운데 중국에서도 AI의 통제 불능 위험성에 대한 정부 차원의 경고가 잇따르고 있다.

AI와 관련된 이 같은 화두가 이달 하순에 열릴 전망인 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석 간 회담에서 주요 의제로 다뤄질 예정으로 보여 더욱 주목된다.

다만 미국에서는 AI가 인류의 존립에 위협이 될 가능성을 둘러싼 논의가 본격화했다면 중국에서는 AI의 위험성을 인정하면서도 아직은 관리 가능한 수준으로 두고 미국과의 기술 격차를 좁히는 데 무게를 두는 분위기가 지배적이다.

인공지능 (PG) [박은주 제작] 사진합성·일러스트

中, 인간과 경쟁하는 AI의 '통제 상실' 위험 공식화

15일 로이터통신과 미 일간 월스트리트저널(WSJ)의 보도를 종합하면 중국은 국가 차원에서 AI의 위험성을 이전부터 경고하고 나섰으며 특히 AI의 발전 양상을 토대로 한 지침을 매년 보완해 새로 발표 중이다.

중국 전국인터넷안전표준화기술위원회는 2024년 9월 'AI 안전 거버넌스 프레임워크 1.0'을 발표하며 인간이 AI에 대한 통제를 상실할 가능성을 제기했다.

중국 정부는 미래 시나리오를 통해 AI가 자율적으로 외부 자원을 확보해 자기 복제를 하며 외부 권력을 추구하면서 인간과 경쟁할 위험이 생길 가능성을 배제할 수 없다고 밝혔다.

지난해 발표된 버전(2.0)에서는 위험 시나리오가 한층 구체화됐다.

AI가 자원을 확보하고 스스로 복제하거나 권력을 추구하기에 앞서 지능이 비약적으로 향상돼 예상 밖의 수준으로 발전해버리는 경우가 생길 수 있음을 가정했다. AI가 인간의 통제를 벗어날 가능성을 더욱 명시적으로 경고한 것이다.

이에 따라 프레임워크 2.0에는 '신뢰할 수 있는 AI 활용'과 'AI의 통제 상실 방지'라는 거버넌스 원칙도 추가됐다.

이후 지난 14일 발표된 2026년 버전(3.0)에서는 AI가 인간을 대신해 업무를 수행하고 물리적 세계와 상호작용하며 기만행위를 하는 능력이 갈수록 증대되고 있다는 분석이 제기됐다. 인간의 의도에서 벗어난 행동을 할 우려가 한층 부각됐다.

미중 국기 [로이터=연합뉴스 자료사진. 재판매 및 DB 금지]

"AI는 대국 간 경쟁의 새 격전지"…美 겨냥한 안보 경계도 강화

중국 정부의 이러한 지침은 단순히 AI의 위험성에 대한 경고에 그치지 않고 국가 안보 차원의 대응 기조로 이어지고 있다.

한국 국가정보원에 해당하는 중국 국가안전부 천이신 부장(장관)은 최근 공개된 글에서 "AI가 이미 글로벌 과학기술 경쟁의 주요 전장이자 대국 간 전략 게임의 새로운 경주로가 됐다"며 "총체적인 국가안보관을 확고하게 견지하고 AI 안보 위험 예방 시스템 구축에 속도를 내야 한다"고 봤다.

그는 "AI 발전에 따른 위험·도전을 충분히 이해해야 한다"며 "AI가 전례 없는 속도·범위·깊이로 인류사회의 각 부문에 침투하고 있다"고 강조했다.

천 부장이 구체적인 국가를 거론하지는 않았지만 상당 부분 미국을 겨냥한 것으로 해석된다.

이는 최근 다리오 아모데이 앤트로픽 최고경영자(CEO) 등을 중심으로 미국 AI 업계에서 확산하는 통제 상실 우려와 문제의식은 맞닿아 있으면서도, 중국 당국은 AI의 위험을 국가안보 차원의 문제로 접근하고 있음을 보여주는 대목이다.

시 주석 또한 지난 7월 열린 '2026 세계인공지능대회'(WAIC)에서 "AI가 항상 인간의 통제 아래 있도록 해야 한다"면서도 "우리는 AI 안보 분야에서 국가 안보의 개념을 지나치게 확대하고 한 나라의 안보를 다른 나라의 안보보다 우선시하는 데 공동으로 반대해야 한다"고 촉구했다.

시진핑 중국 국가주석 [EPA=연합뉴스 자료사진. 재판매 및 DB금지]

"美보다 뒤처졌다"…우려는 되지만 고민은 나중에?

중국은 이러한 위험성을 일찍부터 인정하고 있었음에도 우선은 미국과의 격차를 따라잡아야 한다는 논리가 우세하다.

WSJ은 AI의 위험성 부상과 관련한 중국 업계의 태도를 "선진국에서 할 고민"이라는 표현으로 요약했다.

중국의 최고 AI 연구소에서 일하는 일부 엔지니어들은 AI로 인한 인류 종말에 대한 우려를 '서방 선진 국가들의 고민'처럼 느끼고 있다는 것이다.

중국의 AI 모델들이 글로벌 순위에서 종종 미국의 AI 모델들을 앞서가는 것처럼 보이기도 하지만 아직은 중국의 모델들이 미국의 모델들을 몇 개월 이상 뒤처진 것으로 간주된다.

특히나 AI의 기술 발전 자체가 아직은 초기 단계여서 인류의 존립을 위협할 정도의 위험은 먼 미래의 걱정처럼 느껴진다는 것이다.

상황이 그렇다 보니 AI의 위험성에 대한 인식에도 불구하고 중국의 모든 정부 기관과 AI 연구소들이 우선하는 것은 무엇보다도 기술 발전이다.

딥시크와 즈푸(Z.ai)를 비롯한 중국의 주요 AI 기업들은 AI가 인간처럼 사고하는 '범용 인공지능'(AGI) 개발을 추진하고 있다.

중국에서는 기술 발전에 대한 사회적 영향을 평가하고 사유하는 문화가 덜 자리 잡았다는 분석도 나온다.

옥스퍼드 중국정치연구소의 질란 첸 연구원은 WSJ에 "AI 발전은 미국에서 더 빠르게 이뤄지고 있고 미국의 기술이 더 최첨단이기 때문에 미국 연구소에 있는 사람들은 중국 연구소에 있는 이들보다 위험성을 더 잘 알아차릴 수도 있다"고 지적했다.

suki@yna.co.kr

▶제보는 카톡 okjebo