“AI 활용한 무기 가공할 위력… 오용되면 끝장”

각국 ‘AI 군비 통제’ 본격 논의… 미·중 올해 첫 관련 회담 개최

조태열 외교부 장관과 김용현 국방부 장관이 10일 오후 서울 중구 웨스틴조선호텔에서 진행된 '2024 REAIM 고위급회의 라운드테이블'에서 참석자들과 함께 기념 촬영하고 있다. /국방부

인공지능(AI)을 활용한 각종 첨단 무기가 실제 전장(戰場)에 투입돼 가공할 위력을 보이자, 세계 각국이 심각성을 인지하고 ‘AI 군비 통제’를 본격 논의하기 시작했다. 미국과 중국의 AI 패권 경쟁이 심화하면서, AI가 대량살상용 무기로 오용되는 것에 우려의 목소리가 커지고 있다.

지난 9월 세계 96국은 서울에서 ‘2024 AI의 책임 있는 군사적 이용에 관한 고위급 회의(REAIM 2024)’을 열고 군사적 목적의 AI 활용 기준과 규범을 논의했다. 참가국들은 “국가 및 테러 집단이 대량살상 무기를 확산하기 위해 AI 기술을 활용하는 것을 방지할 필요가 있다”며 “무책임한 행위자들이 군사 분야 AI 역량을 획득하거나 오용하지 못하도록 강력한 통제와 보안 조치가 필요하다”고 했다. 또 AI를 적용한 결과를 기계가 아닌 인간이 책임져야 하고, 기술 활용 시 국내법과 국제법을 준수해야 한다는 기준도 세웠다. 이 같은 내용이 담긴 ‘행동을 위한 청사진’에는 미국·한국 등 60여 국이 서명했다. 중국과 이스라엘 등은 회의에 참여했지만 이 안에 동의하지 않았다. 중국은 지난해 첫 번째 회의에서도 미국 중심 선언문에 반발하며, 뒤늦게 서명한 바 있다.

지난 9월 10일 서울에서 열린 '군사 영역에서의 책임 있는 인공지능(REAIM)' 정상회의에서 참가자들이 전시된 KF-21 전투기 모형(앞쪽)을 살펴보고 있다. 핵 사용과 관련해서는 인공지능이 아닌 인간이 주요 결정을 내려야 한다고 지난 9월 10일 군사 영역에서의 책임 있는 인공지능 정상회의가 구속력 없는 선언문을 통해 합의했다. /AFP 연합뉴스

현재 AI 군비 관련 국제 규범 논의는 미국이 주도하고 있다. 미국으로부터 첨단 반도체 등 AI 관련 제재를 받고 있는 중국은 원칙적으로는 동의하면서도 미국 주도의 군비 통제에는 주저하고 있다. 미국은 지난해 열린 REAIM 2023 회의에서도 자국 주도로 AI 군사 규범을 발표했는데, 중국이 유엔을 통한 다자주의를 주장하며 서명을 거부하기도 했다.

일단 미국과 중국은 AI 군비 관련 대화의 물꼬는 텄다. 로이터통신에 따르면, 지난 5월 양국은 스위스 제네바에서 만나 첫 AI 관련 회담을 열었다. 이는 지난해 11월 조 바이든 미국 대통령과 시진핑 중국 국가주석이 만나 ‘AI 기술이 실존적 위협이 되지 않도록 하자’고 의견을 교환한 것에 따른 후속 조치다. 회담에서 미국은 중국의 AI 오용 우려를 전달했고, 중국은 AI 분야에서 미국이 중국을 제재하는 것에 대해 반대한다는 입장을 강조했다.