AI도 핵무기처럼 관리될까… 유엔 안보리, 사상 최초 AI 대응회의

유엔 안전보장이사회가 18일(현지시간) 사상 처음으로 인공지능(AI)의 위험성에 대응하는 공식 회의를 열었다. 이번 회의에선 AI의 위험을 관리하기 위해 새로운 유엔 기구를 창설하는 방안도 거론됐다.

안보리에 따르면 이날 회의는 안토니오 구테흐스 유엔 사무총장과 안보리 순환직 의장인 제임스 클레벌리 영국 외무장관을 비롯한 각국 대표단, 미국의 AI 스타트업 ‘앤스로픽’의 잭 클라크 공동창업자를 비롯한 전문가들이 참여한 가운데 2시간 가량 진행됐다.

구테흐스 사무총장은 이 자리에서 “AI의 군사적·비군사적 활용 모두 세계 평화와 안보에 심각한 결과를 초래할 수 있다”며 “이러한 위험을 해결하기 위한 조치가 없다면 현재와 미래 세대에 대한 책임을 방치하는 것”이라고 강조했다. 클레벌리 외무장관도 “AI는 국제사회의 전략적 안정성을 강화하거나 방해하고, 방어 및 억지력에 관한 근본적인 전제에 도전할 수 있다”며 국제사회가 중대한 기로에 놓여있다고 말했다.

회의에서는 AI 기술이 로봇 등 군사적으로 활용되는 경우와 함께, 사이버 공격이나 가짜정보 확산 등에 이용될 가능성에 대한 논의가 진행됐다. 유엔 차원에서 AI를 통제하는 방안도 논의됐다. 구테흐스 사무총장은 ‘AI 위험을 관리하기 위한 집단적 노력을 지원할 새 유엔 기구를 만들자’는 일부 회원국들의 요청에 환영한다는 입장을 보였다. 핵무기를 관리하는 국제원자력기구(IAEA)와 같은 기구를 만들자는 것이다.

AI 규제를 위해선 미국과 중국 등 강대국들의 협력이 필요하지만, 지정학적 이해를 달리하는 이들 국가는 이날 회의에서 미묘한 입장차를 보였다.

제프리 드로렌티스 주유엔 미국 부대사는 중국을 겨냥한 듯 “어떤 회원국도 AI를 이용해 사람들을 검열하거나 억압하고, 무력화해서는 안 된다”며 인권 침해를 방지하기 위해 모든 국가들이 AI기술 규제에 협력해야 한다고 지적했다. 반면 장준 주유엔 중국대사는 AI를 ‘양날의 검’이라 표현하며 “AI가 좋은지 나쁜지는 인류가 그것을 어떻게 활용하고 규제하며, 과학 발전과 안보의 균형을 어떻게 맞추느냐에 달려 있다”고 지적했다.

우크라이나 전쟁으로 미국과 대립하고 있는 러시아는 안보리의 AI 논의 자체에 부정적인 입장을 보였다. 드미트리 폴리안스키 주유엔 러시아 부대사는 “(AI 규제에 관해) 필요한 것은 과학적이며 전문지식에 기반한 토론”이라며 “이는 몇 년이 걸릴 수 있는 것으로, 이미 전문 플랫폼으로 진행되고 있다”고 말했다.

박용하 기자 yong14h@kyunghyang.com