“AI 군사적 이용, 인간 통제와 개입 중요”

고위급회의 폐막
軍 활용 20개 조항 청사진 채택
선언적 성격 탓 실효성엔 한계

전쟁과 살상무기로 사용될 수 있는 인공지능(AI)에 대한 국제규범을 논의하는 ‘2024 REAIM(리에임) 고위급 회의‘에서 군사분야 AI의 영향과 필요한 조치가 담긴 문서인 ‘행동을 위한 청사진’이 채택됐다.

지난 9일 서울 중구 롯데호텔에서 '2024 인공지능(AI)의 책임있는 군사적 이용에 관한 고위급회의(REAIM 고위급회의)' 본회의가 열리고 있다. REAIM 고위급 회의는 AI의 군사적 이용이 국제 평화와 안보에 미치는 영향에 대한 국제사회의 이해를 높이고, 관련 국제규범 형성에 기여하고자 출범한 1.5트랙(반관반민) 형식 국제 다자회의체다. 연합뉴스

10일 외교부에 따르면 전 세계 62개국 대표단은 지난 이틀간 진행된 2024 REAIM 회의에서 이런 내용의 청사진을 채택했다. 청사진은 총 20개 조항으로 구성됐다. △AI가 국제평화와 안보에 미치는 영향 △AI의 책임 있는 군사적 이용을 위해 지켜야 할 조치 △미래 거버넌스 구상안이 담겼다.

문서는 AI 기술 발전이 민간인을 보호하고 평화구축 활동에 도움이 될 수 있지만 설계상 오류나 알고리즘 편향으로 의도하지 않은 결과를 가져올 수 있고 군비경쟁을 유발하거나 분쟁 가능성을 키울 수 있다고 명시했다. 이 때문에 군사분야 AI는 국제평화, 안정을 저해하지 않는 방식으로 개발·배치·이용돼야 하며 ‘핵무기 없는 세계’라는 궁극적 목표를 저해하지 않아야 한다고 강조했다. 이를 위해 핵무기 사용에 관한 주권적 결정 관련 정보 제공 및 실행에 있어 필수적인 모든 행동에 대해 인간의 개입과 통제가 유지돼야 한다고 언급했다.

이를 위해 각 국가는 유엔 헌장, 국제인도법, 국제인권법 등 국제법에 합치하는 방식으로 AI를 개발·배치·이용해야 하며 국가 전략, 정책, 법률 마련의 중요성을 강조했다. 윤리적인 측면도 명시했다. AI의 적용은 윤리적이고 인간 중심적이어야 하며 AI 활용의 책임은 어떠한 경우에도 기계에 전가될 수 없다고 강조했다. 특히 무력 사용에 대한 인간의 판단과 통제가 유지돼야 한다고도 했다.

다만 청사진은 구속력이 있는 조항이 아닌 선언적 성격들로 법적 구속력이 있는 조약과 차이가 있다. 러시아와 같이 AI를 군사적으로 이용해 전쟁을 벌이는 국가는 참여하지 않았으며, 참여한 90여개국 중 청사진에 서명한 국가는 62개국뿐이다. 국제규범이나 조약으로 발전시키기 위해 향후 유엔총회와 같은 국제기구에서 추가 논의가 필요할 것으로 보인다.

구현모 기자