REAIM 고위급 회의..."핵무기에 AI 활용? 인간이 책임지고 통제해야"

2차 REAIM 고위급 회의 서울서 폐막

조태열(왼쪽 세 번째부터) 외교부 장관과 김용현 국방부 장관이 10일 서울 중구 웨스틴조선호텔에서 열린 2024 제2차 인공지능(AI)의 책임 있는 군사적 이용에 관한 고위급회의(REAIM 고위급회의) 라운드테이블에서 참석자들과 기념촬영을 하고 있다. 국방부 제공

한국에 모인 96개국 정부 대표단이 군사 분야 인공지능(AI) 기술을 활용한 핵무기 활용, 대량살상 등 비윤리적 행위에 대해 '행동을 위한 청사진(Blueprint for Action)'을 제시했다. AI를 이용한 자율무기체계에 온전히 판단을 맡기지 않고 인간의 통제를 받도록 해야 한다는 내용이다.

외교부와 국방부는 ‘2024 제2차 AI의 책임 있는 군사적 이용에 관한 고위급회의(REAIM 고위급회의)’ 결과 이 같은 내용의 선언문을 채택했다고 10일 밝혔다. 지난해 2월 네덜란드 헤이그에서 열린 1차 회의에서 채택된 ‘행동 촉구(Call to Action)’에서 한발 더 나아간 선언문으로 평가된다.

선언문에는 AI가 국제 평화와 안보에 미치는 영향, AI의 책임 있는 군사적 이용을 위한 조치, 군사 분야 AI의 미래 거버넌스 구상 등 세 가지 큰 틀에 대한 20가지 항목이 담겼다. 이 가운데 대량살상무기의 확산에 기여하는 방식으로 AI 기술이 활용되는 것을 방지할 필요성을 담은 5항이 핵심이다.

5항은 AI 기술이 군축, 군비통제 및 비확산 노력을 저해하지 않아야 한다는 내용이다. 핵무기 사용에 관한 주권적 결정 관련 정보 제공 및 실행에 있어 필수적인 모든 행동에 대해 인간의 통제와 개입을 유지하는 것이 중요하다는 것이다.

이와 함께 책임 있는 군사 분야 AI 기술을 보장하기 위해, 인간은 군사 분야 AI 적용의 활용과 효과에 대한 책임과 책무를 진다는 내용을 담은 9항도 핵심 항목으로 꼽힌다. 참가국들은 9항에 '이러한 (AI 기술 활용과 관련한) 책임과 책무는 어떠한 경우에도 기계에게 전가될 수 없다'고 약속했다.

이날 라운드테이블 행사에는 총 96개국이 참가, 장·차관급 인사 38명(국내 장관 2인 포함)이 참석했다. 조태열 외교부 장관은 폐회사를 통해 “이번 제2차 REAIM 고위급회의를 통해 채택한 선언문은 군사 분야 AI에 대한 국제사회의 노력과 혜안이 담긴 결과물”이라며 “앞으로 원칙들이 구체적인 행동과 실질적인 이행으로 이어질 수 있도록 노력해 나가자”고 당부했다.

김형준 기자 mediaboy@hankookilbo.com