‘핵확산금지’ 이어 ‘AI무기확산금지’조약도 나오나… 美中 제네바서 머리 맞댄다

“지금이 우리 시대 ‘오펜하이머의 순간(Oppenheimer Moment)’이다.”

알렉산더 샬렌베르크 오스트리아 외교장관이 원자폭탄 개발을 주도했음에도 이후 핵무기 규제를 강하게 주창한 미국 물리학자 로버트 오펜하이머를 거론하며 지난달 29일 한 말이다. 인공지능(AI)으로 운용되는 핵무기, 인간 살상이 가능한 ‘킬러 로봇’ 등 AI 기술을 적용한 무기의 위험성이 점점 커지면서 핵무기가 처음 등장했던 때와 비슷하다는 우려였다.

이런 상황에서 미국과 중국이 14일(현지 시간) 스위스 제네바에서 AI 위험에 관한 대책을 논의하는 첫 회담을 갖는다. 지난해 11월 조 바이든 미국 대통령과 시진핑(習近平) 중국 국가주석이 AI 협의체를 구축하기로 합의한 후 열리는 첫 양국 회담이다.

두 나라는 이번 회의에서 자율무기체계(AWS·Autonomous Weapon System), 사이버 보안, 딥페이크 등 AI로 발생할 수 있는 각종 안보 위험과 규제 방안 등을 논의한다. 다만 두 나라가 AI 패권을 두고 치열한 경쟁을 벌이고 있어 AI 군축 합의로 이어질지는 미지수다.

● 美 “中, AI 군축협상 동참해야”

미국은 이번 회담을 통해 “중국이 핵무기에 AI 기술 사용을 제한하자는 국제협약에 동참해야 한다”는 점을 강조할 뜻을 밝혔다. 스스로 판단해 핵무기 발사를 결정할 수 있는 AI 핵무기가 인류의 파멸로 이어질 수 있는 만큼 과거 핵 군축 합의처럼 AI의 군사적 사용 한도를 정하는 AI 군축 협상이 꼭 필요하다는 의미다.

바이든 행정부 고위 당국자는 11일 사전 기자회견에서 “회담의 목표는 AI의 위험과 안전”이며 “양측이 위험과 안전을 어떻게 정의하는 지에 집중할 것”이라고 밝혔다. 특히 그는 “중국은 미국과 동맹국의 국가안보를 약화시키는 방식으로 군사 역량을 빠르게 배치해왔다”며 AI 사용 위험에 대한 미국의 우려를 제기할 것이라고 강조했다.

바이든 대통령은 지난해 10월 AI 관련 행정명령을 발표하면서 AI 규제 논의를 주도하고 있다. 유엔도 올 3월 AI의 안전한 사용을 위한 국제적 합의를 마련해야 한다는 결의안을 통과시켰다. 이런 국제협약에 군사 강대국이자 ‘우려 국가’인 중국과 러시아가 동참해야만 실질적인 효력이 있다는 게 미국의 생각이다.

미국은 자체적으로 중국을 겨냥한 AI 규제도 강화하고 있다. AI용 반도체를 중국에 반입하지 못하도록 수출 통제를 강화한 것은 물론 AI 분야에 대한 투자와 클라우드서비스 이용 규제, 챗GPT와 같은 AI 프로그램 수출 제한도 검토하고 있다.

● 中 “AI 기술 개방이 우선”

중국은 AI 기술의 평화적 이용에 대한 합의가 필요하지만 미국이 AI용 반도체를 포함해 중국에 취한 각종 반도체 규제를 해제하는 것이 먼저라는 입장이다. 블룸버그통신에 따르면 중국은 AI 기술 발전의 혜택을 개발도상국도 누릴 수 있도록 국가 간 AI 기술 격차를 줄이기 위한 결의안을 준비하고 있다. AI 기술의 ‘개방적 협력’, ‘포용성’ 등을 부각시켜 미국의 수출 규제 철회를 압박하려는 모양새다.

그러나 바이든 행정부의 또 다른 고위 당국자는 “국가안보 조치는 협상 불가능(non-negotiable)”이라고 일축해 AI 회담에서 두 나라 간 상당한 대립이 예상된다.

중국은 AI 투자도 아끼지 않고 있다. 로이터통신에 따르면 중국은 2010년부터 10년간 AI 연구, 머신러닝 등에 1억4100만 달러(약 1974억 원)를 투자했다. 시 주석은 2022년 10월 이미 “무인지능 전투 능력 개발을 가속화하라”며 AI 무기 개발을 공개적으로 촉구했다.

두 나라가 AI 기술을 놓고 패권 경쟁을 벌이면서 안보 위험이 커질 수 있다는 우려가 나온다. 샘 올트먼 오픈AI 최고경영자(CEO)를 비롯해 AI 업체에서도 미중이 어떤 식으로든 협력해야 한다는 목소리가 나오는 이유다. 헨리 키신저 전 미 국무장관은 타계 직전인 지난해 11월 “AI는 두 나라가 직면한 가장 중요한 문제”라며 “재앙을 막기 위해 AI 군축에 협력하라”고 촉구했다.
워싱턴=문병기 특파원 weappon@donga.com
이기욱 기자 71wook@donga.com
이지윤 기자 asap@donga.com