미래戰 게임체인저 군사AI...“민주주의·투명성 바탕으로 개발해야”

‘2024 제2차 AI의 책임 있는 군사적 이용 고위급회의’
전문가들, 투명성과 신뢰성 기반 국제 협력 필요성 강조
국제 규범과 민주주의 가치 반영한 AI 설계 강조
“데이터 수집과 안전한 AI 개발 위해 민관 협력 필요”

[이데일리 윤정훈 기자] 국방관련 인공지능(AI) 분야의 현직 전문가들이 군사분야에서 책임있는 AI 사용을 위해서는 투명성과 신뢰성을 바탕으로 국제사회가 힘을 합쳐야 한다고 밝혔다.

조태열(우측) 외교부 장관과 김용현(좌측) 국방부 장관이 9일 서울 중구 롯데호텔에서 열린 REAIM 고위급회의 개회식을 마친 뒤 대화를 나누고 있다.(사진=뉴스1)

외교부와 국방부가 공동 주관하는 ‘2024 제2차 AI의 책임 있는 군사적 이용에 관한 고위급회의’(REAIM 고위급회의) 개회식이 이날 오전 서울 중구 롯데호텔에 개최됐다.

이날 본회의 두번째 세션인 ‘군사 분야 AI, 책임있는 이용을 위한 이행 방안 모색’에 참석한 국방 전문가들은 한목소리로 국제적인 협력을 강조했다.

라다 플럼 미국 국방부 디지털 AI 최고책임관은 “미국은 RAI(책임있는 AI) 툴킷이 있다. 북대서양조약기구(NATO), ‘파이브아이즈(미국, 영국, 캐나다, 호주, 뉴질랜드)’, 한국, 싱가포르 등 파트너 국가와 RAI 프로세스를 같이 개발·적용하는 것을 논의했다”며 “작은 스케일에서 우방국가와 소다자차원에서 협력하는 것이 필요하다”고 말했다.

김종진 한화시스템 전무 겸 우주연구소 부소장은 “아직 AI개발은 초기 단계에 있기 때문에 국제 인도주의적 규범을 준수하는 것이 가장 기본이 된다”며 “국제규제와 더불어 한국 정부의 규제체계를 준수하고자 한다. 공동의 체계가 나온다면 업계가 이를 준수하는데 수월할 것으로 본다”고 국제규범의 필요성을 언급했다.

예룬 반덴 호벤 박사는 “민주주의, 인간 존엄성, 공정성 같은 가치가 AI 설계에 반드시 반영돼야 한다”며 “이를 위해 개념적 분석과 명확한 규범 정의가 필요하다”고 말했다. 이어 “AI시스템이 검증 과정을 통해 끊임없이 개선될 수 있도록 해야 하며, 이는 군사적 활용에서도 필수적인 요소”라고 덧붙였다.

정이 중국과학원 자동화연구소 교수는 AI의 책임 있는 군사적 이용 정책이 지속 가능하도록 하려면 투명성과 안전성을 강화해야 한다고 주장했다.

산업계에서는 AI개발을 위해 데이터 수집이 힘들다는 지적도 나왔다. 김 부소장은 “국방 분야에서는 양질의 데이터를 획득하는 것이 굉장히 어려운 과제”라며 “정부가 안전한 체계 속에서 데이터를 구할 수 있는 방법을 마련해 주면 도움이 될 것”이라고 했다.

김종진 한화시스템 전무 겸 우주연구소 부소장(사진=외교부 유튜브)

2024 REAIM 고위급회의는 정부관계자 외에도 국제기구, 학계, 산업계, 민간인, 청년 등이 참가하는 군사 분야 AI 관련 최대 규모의 회의로 이날부터 10일까지 이틀간 진행된다. 이번 회의에는 90여개국 정부대표단을 포함 2000명 이상이 등록했으며, 개회식 이후 본회의, 장관급 일정, 부대 행사 등이 진행되어 다양한 분야의 참석자들이 군사 분야 AI의 책임 있는 이용 관련 원칙과 거버넌스에 대해 의견을 교환할 예정이다.

조태열 외교부 장관은 개회사에서 “AI가 국제 평화와 안보에 미치는 영향을 균형있게 이해해야 하며, 최소한의 보호조치를 마련해 AI 남용으로 인한 끔찍한 결과를 방지해야 한다”며 “각국은 책임있는 AI의 약속의 실질적으로 행동으로 옮겨야 한다”고 말했다.

윤정훈 (yunright@edaily.co.kr)