이 대통령 주재 유엔안보리 토의때 한국·네덜란드 공동보고서 발표돼

REAIM 글로벌 위원회 보고서
네덜란드 총리가 토의에서 발표
군사 AI에 대한 거버넌스 촉구
AI 개발·활용, 국제법 준수하고
인간 판단·책임 영역 확보 제안

이재명 대통령이 24일(현지시간) 미국 뉴욕 유엔본부에서 안전보장이사회 공개 토의를 주재하고 있다. [사진=연합뉴스]

이재명 대통령이 24일(현지시간) 미국 뉴욕 유엔본부에서 주재한 인공지능(AI) 관련 안전보장이사회(안보리)의 공개 토의에서 한국과 네덜란드의 민관이 협력해 발간한 군사 분야 AI 보고서가 발표됐다.

이날 딕 스호프 네덜란드 총리는 ‘AI(인공지능)와 국제평화·안보’라는 주제의 안보리 공개 토의에서 AI의 책임 있는 군사적 이용에 관한 고위급 회의(REAIM) 산하 글로벌 위원회의 ‘책임 있는 설계: 군사 영역에서 인공지능의 위험, 기회, 거버넌스에 관한 전략적 지침 보고서’를 발표했다.

REAIM 글로벌 위원회는 지난 2023년 한국과 네덜란드가 공동 개최했던 REAIM의 후속 조치로 출범한 조직이다. 윤병세 전 외교부 장관이 의장을 맡고 있다.

76쪽에 달하는 전략 지침 보고서는 글로벌 위원회가 1년여 동안의 논의를 거쳐 이번 주 발간됐다. 세계 각 지역과 AI 관련 다양한 영역을 대표하는 석학과 전문가 49명이 참여했고, △영국 외무성 △미국 브루킹스 연구소 △서울국제법연구원 등 7개 기관의 지원과 한국과 네덜란드 외교부 등의 의견 제시도 있었다.

보고서는 군사 분야에서 AI 사용이 빠르게 확대되고 있다는 문제의식 하에 AI의 책임 있는 사용을 위한 글로벌 협력 방안을 구체적으로 제안하고 있다. 군사용 AI에 대한 글로벌 거버넌스와 안전장치 마련이 시급하다는 제언이다.

구체적으로 보면 보고서에는 군사 영역에서의 책임 있는 AI 개발·활용을 위한 세 가지 기본 원칙과 5대 핵심 권고사항이 명시됐다. 3개 기본 원칙은 △국제법과 보편적 윤리 원칙을 지침으로 삼을 것 △시스템 수명 주기 전반에 걸쳐 체계적이고 구조화된 설계·개발·시험 과정에 따를 것 △AI 개발·활용에 참여하는 개인은 인간의 행위 주체성을 행사할 수 있도록 제도적 지원을 받아야 할 것 등이다.

5대 핵심 권고 내용은 이같은 원칙의 법제화·제도화 촉구에 방점이 찍혀 있다. 먼저 군사 영역에서 AI의 책임 있는 개발과 활용을 관련 윤리 원칙 및 국제법에 정착시키고, 핵무기 사용 승인 결정을 인간의 통제 하에 두는 것을 법적으로 구속력 있게 합의해야 한다고 제안했다.

인간의 책임을 보장하는 국가 정책을 시행하며 상설 다자 이해관계자 대화체를 구축해야 한다는 내용도 포함됐다. 아울러 다자 전문가 네트워크도 개발해야 한다고 강조했다. 보고서는 특히 이러한 권고사항을 국가과 군, 산업 부문별로 나눠서 맞춤형으로 제시했다.