군사분야에서 AI 활용 ‘양날의 검’…인간 책임성 높이고 국제적 규범 필요

외교부·국방부 주관 ‘REAIM 고위급회의’
‘AI가 국제 평화와 안보에 미치는 영향’
“맥락에 따라 정답 바뀌는 건 인간이 해야”

외교부와 국방부가 공동 주관한 ‘2024 인공지능의 책임 있는 군사적 이용에 관한 고위급회의’(REAIM 고위급 회의)가 9일 서울 롯데호텔에서 개최됐다. ‘AI가 국제 평화와 안보에 미치는 영향’을 주제로 참가자들이 논의를 하고 있다. REAIM 유튜브 갈무리

군사 분야에서 인공지능(AI)을 활용할 때 인간의 책임성을 높이고, 인간이 AI를 통제하기 위한 국제적인 규범이 필요하다는 제언이 나왔다. AI의 군사적 이용이 지휘·통제 등의 의사결정을 도울 수는 있지만, 군비경쟁을 불러일키는 등 ‘양날의 검’이 될 수 있는 만큼 국제적인 합의를 도출해야 한다는 것이다.

외교부와 국방부가 공동 주관한 ‘2024 인공지능의 책임 있는 군사적 이용에 관한 고위급회의’(REAIM 고위급 회의)가 9일 서울 롯데호텔에서 개최됐다. 이 회의는 AI의 군사적 이용이 국제 평화와 안보에 미치는 영향에 대한 국제사회의 이해를 높이고, 관련 국제규범 형성에 도움이 되도록 마련한 ‘1.5트랙’(반관반민) 국제회의다.

전문가들은 이날 ‘AI가 국제 평화와 안보에 미치는 영향’을 주제로 진행한 논의에서 AI가 세계 안보에 긍정적·부정적 영향을 모두 미칠 수 있다고 진단했다. 그러면서 AI 기술의 영향은 결국 인간이 어떤 선택을 하느냐에 달렸다는 데 공감했다.

우선 이영수 공군참모총장은 “AI 시스템은 방대한 양의 데이터를 분석할 수 있다”라며 “AI는 군사작전이나 탐지 같은 군사역량, 그리고 정밀한 의사결정을 향상시킬 수 있다”고 평가했다. 이 총장은 반면 “AI가 군비경쟁을 촉발하는 등 국가 간 긴장을 더 고조할 수도 있다”라며 “AI를 사용하는 방식에 따라 (긍정적·부정적 영향은) 달라질 것”이라고 말했다.

사이드 알다헤리 두바이대 미래학연구소장은 AI를 군사적으로 이용하는 데 인간의 책임성을 명확히 해야 한다고 밝혔다. 그는 “AI 로봇이 전쟁에서 목표물을 식별하고 살상할 수 있다. 인간의 참여나 개입 없이 가능한 것”이라며 “그러나 이런 자율무기시스템이 살상을 했을 때 누가 책임을 질 것인가라는 문제가 발생할 것”이라고 말했다. 알다헤리 소장은 또 “AI 기술의 오작동 등으로 원하지 않은 분쟁이나 갈등이 발생할 수도 있다”라며 “군비경쟁 통제가 약화해 글로벌 안정성을 저해할 수도 있다”고 우려했다. 그는 이에 따라 AI를 군사적으로 이용할 때 “국제적인 거버넌스와 법 체계, 관련 조약 등이 필요할 것”이라며 “이런 규칙들은 인간이 AI를 통제하고 중요한 결정을 하도록 해야 한다”고 했다.

미 싱크탱크인 신미국안보센터(CNAS)의 폴 샤레 총괄부사장도 “AI는 상대방이 들고 있는 것이 소총인지 삽인지 사람보다 더 정확하게 식별할 수 있을 것”이라며 “데이터를 획득하고 머신(기계)을 훈련해서 제대로 평가하게 한다면 인간보다 더 잘할 것”이라고 내다봤다. 샤레 부사장은 “AI가 상대가 전투요원인지, 주변에 민간인이 있는지 여부 등도 언젠가는 판단할 수 있도록 훈련을 시켜야 할 것”이라며 “그러나 맥락에 따라 정답이 바뀌는 것들은 기계가 판단토록 하면 안 된다. 반드시 인간이 하는 게 바람직하다”라고 했다. 그는 이어 “인간은 (AI로 인해) 초래되는 결과에 대해 법적 도덕적 책임이 있다”라며 “인간이 책임성을 포기하지 않는 게 중요하다”고 했다.

프레데릭 추 싱가포르 국방부 차관보는 “AI는 군사분야에서 더 정밀한 전쟁이 가능케 할 것이다”라며 “우리가 함께 AI의 리스트를 완화하는 방안을 논의하는 게 중요하다”고 말했다.

조태열 외교부 장관은 이날 개회사에서 “(AI가) 전략가, 야전사령관, 장병의 역할을 하기 시작했다”라며 책임 있는 AI를 위한 규범과 거버넌스 정립이 시급하다고 밝혔다. 김용현 국방부 장관도 개회사에서 “AI가 군사 분야에 적용되면서 군의 작전 능력을 비약적으로 향상시켰지만, 오남용에 의한 심각한 피해도 초래할 수 있는 양날의 검과 같은 특성이 있다”라며 AI 이용에 관한 기준과 규범의 필요성을 밝혔다.

이번 REAIM 고위급 회의는 한국과 네덜란드가 공동주최했다. 지난해 네덜란드에서 첫 회의가 열린 이후 이번이 두번째이다. 올해 REAIM 회의에는 90여개 국에서 대표단 등 1000여명이 참석한다.

10일에는 각국 정부 대표가 참여하는 고위급 회의가 열린다. 여기선 군사분야 AI 관련 기본 원칙과 우순선위, 우려 사항 및 과제, 국제협력 전망 등을 논의한다. 폐회식에서는 이번 회의 결과를 반영한 ‘블루프린트 포 액션’(Blueprint for Action)이라는 제목의 문서가 채택될 예정이다. AI 규범 마련을 위한 청사진을 제시하는 선언적 내용이 담긴다. 이 문서가 향후 유엔 등 국제기구에서 AI의 군사적 이용과 관련한 규범을 마련하는 데 기여할 것으로 정부는 기대한다.

정희완 기자 roses@kyunghyang.com