“군사 AI 국제법 준수… 핵사용 통제권 인간이 가져야”

세계 61개국 가이드라인 채택
AI 오류 결과도 인간에 책임
우크라는 서명, 中-이스라엘은 불참

9일 서울 롯데호텔에서 한국과 네덜란드가 공동 주최한 ‘2024 군사적 영역의 책임 있는 인공지능(AI)에 관한 고위급 회의(REAIM)’가 열렸다. 전 세계 90여 개국 정부 대표단과 기업인 등 민간 전문가들은 AI의 군사적 이용에 대한 국제 규범을 마련하기 위한 토론을 진행했다. 뉴시스

한국과 미국, 일본 등 61개국이 군사 인공지능(AI)을 활용할 때 반드시 유엔헌장과 국제인도법, 국제인권법 등을 지켜야 한다는 내용이 담긴 ‘행동을 위한 청사진(blueprint for action)’ 문건을 10일 채택했다.

특히 문건에는 “AI 기술이 핵무기 확산에 활용되는 것을 방지할 필요성이 있다”며 “핵무기 사용에 관한 정보를 제공하고 실행하는 데 있어 ‘인간의 통제와 개입’을 유지하는 것이 중요하다”는 내용이 담겼다. AI가 아닌 인간이 핵무기 사용에 대해 완전한 통제권을 가지도록 하자는 것. 이 문구가 국제회의 결과문서에 포함된 것도 처음이다.

이날 서울에선 우리 정부가 네덜란드 등 4개국과 함께 ‘인공지능의 책임있는 군사적 이용에 관한 고위급회의(REAIM)’ 폐회식을 열고 결과문서를 채택했다. 영화 ‘터미네이터’처럼 AI 시스템이 인간에게 해를 끼치지 못하도록 세계 각국이 자발적인 ‘가드레일’을 설정한 것. 최근 우크라이나 등에선 군사 AI가 실전에 배치돼 사용되고 있다. 그런 만큼 이번 문건에는 “국제법을 준수하는 범위 안에서 이용해야 한다”는 등 국제사회의 요구가 적극 반영됐다. 군사 AI 이용에 대한 인간의 책임을 구체적으로 규정한 국제 합의문이 나온 건 처음이다.

‘자폭 드론’ 등 AI 활용 무기를 실전 배치한 우크라이나는 문건에 서명했지만 이스라엘은 서명하지 않았다. 중국도 회의 전까진 “검토 중”이라는 입장이었지만 결국 서명하지 않았다. 이 문건에는 “인간은 군사 AI 활용에 대한 책임을 지고, 책임은 어떤 경우에도 기계에 전가될 수 없다”는 내용이 담겼다. “오작동 등으로 발생하는 의도치 않은 결과의 위험을 줄이기 위해 보호장치를 마련해야 한다”는 문구도 포함됐다.

정부 관계자는 “지난해 네덜란드에서 열린 고위급회의에선 60개국이 AI의 책임 있는 이용을 위해 행동을 시작하자는 호소문(call to action)에 합의했다”며 “이번엔 구체성을 더한 가이드라인에 합의한 것”이라고 했다. 정부는 올 10월 유엔 총회에서 후속 논의를 이어갈 예정이다.

고도예 기자 yea@donga.com