90여개국 서울 집결… AI 전쟁 활용 국제규범 ‘청사진’ 제시

외교·국방 고위급 회의
김용현 “AI 군사 이용 양날의 검
작전능력 향상·오남용 피해 우려”
각국 대표단 10일 공동문서 채택
10월 유엔총회 논의할 규범 초석
10일 韓·유엔사 국방장관 회의
11∼12일 68개국 차관급 ‘SDD’
이번주 서울서 안보회의 잇따라

실제 전쟁에 활용될 군사분야 인공지능(AI) 활용과 관련된 국제 규범 마련을 위해 90여개국 대표들이 서울에 모였다. 우크라이나·러시아, 이스라엘·하마스 등 최근 벌어지고 있는 두 개 전쟁에서 AI에 기반한 군사기술이 사용되는 사례가 많아지면서 ‘킬러 로봇’의 논란처럼 필연적으로 발생하는 윤리적 문제에 대해 논의하고 국제적인 가이드라인이 필요하다는 인식에서다.

외교부와 국방부는 ‘2024 인공지능의 책임 있는 군사적 이용에 관한 고위급회의(REAIM)’가 9일 오전 서울 중구 롯데호텔에 개최됐다고 밝혔다. 10일까지 진행되는 이번 회의에는 네덜란드, 싱가포르, 케냐, 영국 등 공동주최국을 비롯해 90여개 국가의 정부대표단과 귀빈 1000여명이 참석했다. 우크라이나, 이스라엘, 팔레스타인에도 초청장을 보냈다. 다만 우크라이나를 침공한 러시아는 초청받지 못했다.

조태열 외교부 장관이 9일 서울 중구 롯데호텔에서 열린 2024 인공지능(AI)의 책임있는 군사적 이용에 관한 고위급회의(REAIM 고위급회의) 개회식에서 개회사를 하고 있다. 뉴시스

조태열 외교부 장관은 개회사에서 “AI의 군사적 이용이 군사 혁신을 주도하는 동시에 다양한 도전을 불러올 수 있다”면서 “국제 평화·안보와 인간의 존엄성을 모두 지키기 위해서는 책임 있는 AI 이용을 위한 규범과 글로벌 거버넌스를 마련하는 것이 중요하다”고 말했다.

김용현 국방부 장관도 환영사에서 “AI가 군사 분야에 적용되면서 군의 작전 능력을 비약적으로 향상했으나 오남용에 의한 심각한 피해도 초래할 수 있는 양날의 검과 같은 특성을 가지고 있다”면서 “군사 분야 AI의 책임 있는 이용에 대한 균형 잡힌 이해와 국제사회의 협력이 필요하다”고 강조했다.

REAIM은 AI를 군사적으로 이용했을 때 국제 평화에 미치는 영향을 이해하고 국제 규범 형성에 기여하고자 출범한 정부, 산업계, 국제기구 등이 함께 참여하는 국제 다자회의체로 지난해 네덜란드 헤이그에서 처음 열렸다.

그동안 AI가 전장에서 활용되는 사례가 늘면서 국제사회가 지켜야 할 가이드라인이 필요하다는 의견이 제기돼 왔다. 우크라이나 전쟁에서는 자체적으로 적을 판단해 요격할 수 있는 AI가 탑재된 드론이 전장에 활용되는 것으로 전해졌다. 예컨대 드론 재밍에 노출되어 신호가 끊겨도 드론에 탑재된 AI의 자체 판단을 통해 적 전차를 공격하기도 하는데 이를 두고 AI가 스스로 인간을 공격할 수 있도록 길을 열어준 것이라는 의견이 있다. AI에 기반한 군사기술 등장은 자칫 오작동으로 인해 민간인 피해를 확산하거나 군비경쟁을 부추길 가능성도 크다.

미국은 지난 1차 REAIM 회의에서 AI의 군사적 사용을 위한 가이드라인이 담긴 ‘AI와 자율성의 책임 있는 군사적 사용에 대한 정치적 선언문’을 공개한 바 있다. 선언문에는 군사적 AI 능력을 국제법과 일치시키는 데 필요한 조치를 취하고 특히 핵무기와 관련한 주권적 결정을 실행하는 데 필수적인 조치에 인간의 통제와 개입을 유지한다는 내용이 담겼다. 당시 회의에서 61개국 정부대표단도 군사영역에서 AI에 대한 국제적 논의를 지속하자는 ‘공동 행동 촉구서’를 채택한 바 있다.

부대행사 AI 전시회… 국산 무인 수상정 소개 9일 서울 중구 롯데호텔서울에서 개최한 ‘2024 인공지능의 책임 있는 군사적 이용에 관한 고위급회의(REAIM)’의 부대행사로 열린 AI 기업 전시회에 김용현 국방부 장관(앞줄 왼쪽 두 번째)과 조태열 외교부 장관(〃 세 번째)이 참석해 HD현대 부스에서 중형 무인 수상정(USV)인 ‘테네브리스’(TENEBRIS)에 대한 설명을 듣고 있다. 남정탁 기자

올해 회의에서 각국 정부대표단은 군사 분야 AI 규범 마련의 토대가 될 ‘행동의 청사진’을 문서로 채택할 예정이다. 이번에 채택할 문서도 구속력을 갖진 않지만 AI의 군사적 이용에 대한 여론을 형성한다는 의미가 있다는 게 외교부의 설명이다. 이번 회담의 결과물은 10월 유엔총회에서도 논의될 것으로 보인다.

REAIM을 시작으로 이번 주는 군사외교 관련 회의가 잇따라 열릴 예정이다. 제2회 한국·유엔군사령부 회원국 국방장관회의가 10일 서울 소공동 롯데호텔에서 열린다. 한·유엔사 국방장관회의는 지난해 6·25전쟁 정전 70주년을 계기로 서울에서 처음 열렸고 당시 참가국들은 회의 정례화를 결정했다. 올해 회의에서는 지난 8월 유엔사에 신규 가입한 독일의 국방차관을 비롯해 18개 유엔사 회원국 대표가 참석한다. 또 11∼12일 열리는 연례 차관급 다자회의체인 ‘2024 서울안보대화(SDD)’에는 68개 국가 및 국제기구에서 900여명이 참석한다.

구현모 기자 lil@segye.com