AI가 인간 살상 결정?…유엔, ‘치명적 무기시스템’ 대응 결의

러시아는 반대, 중국은 기권

지난 2월 네덜란드 헤이그에서 열린 ‘인공지능의 책임 있는 군사적 이용에 관한 고위급회의’(REAIM)에 참석한 이들이 발언하고 있다. 연합뉴스

인공지능(AI)이 표적을 파악하는 데 그치지 않고 치명적인 공격을 가하는 선택까지 내리는 ‘치명적 자율무기 시스템’(Lethal Autonomous Weapon Systems)의 위협에 국제사회가 적극 대응해야 한다는 결의안이 유엔 총회에서 통과됐다. 인공지능의 군사적 이용을 규제하는 국제사회의 움직임이 본격화될지 주목된다.

유엔 총회는 22일 치명적 자율무기 시스템이 국제사회에 불러올 수 있는 도전과 우려에 시급히 대응해야 한다는 내용을 뼈대로 하는 결의안을 152개국의 압도적인 찬성으로 통과시켰다. 반대한 국가는 러시아·인도·벨라루스 등 4개국이었고, 중국·이스라엘·이란 등 11개국은 기권했다. 이 결의에 따라 안토니우 구테흐스 사무총장은 내년 9월 열리는 총회 때까지 이 무기 시스템이 불러일으킬 수 있는 인도적·법적·안보적·기술적·윤리적 문제들에 대해 회원국들의 의견을 모아 보고서를 제출하게 된다.

유엔 총회에서 150개국 넘는 압도적 다수가 이 결의안에 찬성한 것은 지난해 2월 말 시작된 우크라이나 전쟁을 계기로 인공지능 기술 개발에 한발 뒤져 있는 개발도상국들이 이 기술로 인한 전쟁 확대의 위험성을 공감하기 시작했기 때문으로 보인다. 실제 우크라이나 전쟁에선 무인기(드론)를 활용해 상대의 핵심부를 공격하는 작전이 빈번히 이뤄지고 있다. 이 과정에서 인공지능이 체온이나 영상 분석을 통해 인간 등 표적을 감지하고 있는 것으로 보인다. 하지만, 이에 그치지 않고 인공지능이 스스로 인간을 살상하는 결정까지 내리는 치명적 자율무기 시스템이 사용되고 있는지는 확인되지 않고 있다.

이 같은 우려에 더해 그동안 기술 개발을 우선시하며 규제에 미온적이었던 미국이 지난 2월 인공지능을 군사적으로 이용하는 데 있어 국제적 규범을 만들어야 한다며 적극적으로 논의를 주도하기 시작했다. 미국 국무부는 당시 발표한 ‘정치적 선언’의 초안에서 “인공지능의 군사적 사용은 윤리적이고, 책임 있어야 하며, 국제 안보를 강화해야 한다”며 △인공지능의 능력은 국제법, 특히 국제인권법 규범들에 부합해야 하고 △핵무기의 사용과 관련한 주권적 결정을 알리고 실행하는 데 꼭 필요한 모든 움직임에 인간의 통제와 개입을 유지해야 하며 △인공지능 능력을 발전시키는 데 고위 당국자들의 감독이 보장되어야 한다는 내용이 담긴 12가지 원칙을 공개했다.

구테흐스 사무총장은 내년까지 보고서를 완성해 이를 토대로 치명적 자율무기 시스템을 금지할 수 있는 조약 제정에 나설 방침인 것으로 전해진다. 하지만, 이날 확인되듯 러시아(반대)·중국(기권) 등의 입장이 미묘하게 달라 의미 있는 합의를 이뤄낼 수 있을지 분명하지 않다.

길윤형 기자 charisma@hani.co.kr