"AI 군사적 이용, 핵사용 결정은 인간이 통제해야"

REAIM 고위급 회의 '행동 청사진' 채택

인공지능(AI)의 책임 있는 군사적 이용 문제를 논의하는 대화의 장 '2024 REAIM 고위급 회의'가 결과 문서로 '행동을 위한 청사진(Blueprint for Action)'을 채택하며 폐막했다.

REAIM 고위급 회의 참가국들은 10일 채택한 결과 문서에서 "핵무기 없는 세계라는 궁극적 목표를 저해하지 않는 가운데 핵무기 사용에 관한 주권적 결정 관련 정보 제공·실행에 있어 필수적인 모든 행동에 대해 인간의 통제·개입을 유지하는 것이 중요하다"고 밝혔다.

9일 서울 중구 롯데호텔에서 '2024 인공지능(AI)의 책임있는 군사적 이용에 관한 고위급회의(REAIM 고위급회의)' 본회의가 열리고 있다. [이미지출처=연합뉴스]

아울러 "국가 및 테러 집단을 포함한 비국가 행위자에 의해 대량살상무기의 확산에 기여하는 방식으로 AI 기술이 활용되는 것을 방지할 필요성"도 강조했다. 잠재적으로 위험한 AI 기반 시스템을 포함한 군사 분야 AI 역량을 무책임한 행위자가 획득·오용하는 것을 방지하기 위한 강력한 통제·보안 조치 마련도 중요하다고 부연했다.

이 밖에도 ▲AI 적용은 윤리적·인간중심적일 것 ▲AI 역량은 국내법·국제법에 합치하게 적용될 것 ▲인간이 AI 적용의 책임·책무를 질 것 ▲보호장치 마련을 통해 AI 적용의 신뢰성을 보장할 것 등 원칙들이 지켜져야 한다는 데 뜻을 모았다.

지난해 첫 회의에서 발표된 공동행동 촉구서(call to action)가 다자 간 협력의 중요성을 강조했다면, 이번 결과 문서에선 보다 구체적인 실행 방안이 제시됐다. 우리 정부는 향후 이 내용을 토대로 유엔 총회 등에서 후속 논의를 추진할 방침이다.

한편 REAIM 고위급 회의는 AI의 군사적 이용이 국제 평화·안보에 미치는 영향에 대한 국제사회의 이해를 높이고, 관련 국제규범 형성에 기여하고자 출범한 1.5트랙(반관반민) 형식 국제 다자회의체다. 전날부터 이틀에 걸쳐 진행된 서울 행사에는 96개국에서 대표단 등 1952명이 참석했으며, 이 가운데 장차관급 고위 인사는 38명이다. 결과 문서는 61개국이 지지했다.

장희준 기자 junh@asiae.co.kr