“군사 AI기술 책임감 있게 이용” 韓美 등 46개국 가이드라인 선언 동참

미 주도 이니셔티브
중·러·北 포함 안돼

미 국무부는 13일(현지 시각) 한·미 등 46개국이 인공지능(AI) 기술을 군사 분야에 적용하는 데 있어 책임감 있게 행동하겠다는 정치적 선언에 동참했다고 밝혔다. 앞서 미 국무부는 지난 2월 이런 내용의 가이드라인을 발표했었는데 참여 국가가 46개국으로 늘었다는 것이다. 이번 선언에 북·중·러 등은 참여하지 않았다. 이 선언은 법적 구속력은 없지만 군사 AI에 자발적인 ‘가드레일(guardrail·난간)’을 설정하는 국가 간 최초의 주요 합의로 평가된다.

그래픽=박상훈

앞서 지난 2월 네덜란드 헤이그에서 열린 ‘AI의 책임 있는 군사적 이용에 관한 고위급회의(REAIM)’에서 공개된 이 선언문에는 ‘핵무기와 관련된 결정을 실행하는 데 인간의 통제·개입을 유지한다’ ‘모든 군사적 AI의 능력을 개발하거나 전개할 시 고위 정부 관료의 감독을 보장한다’는 등의 내용이 담겨 있다. 또 군사 AI 시스템을 엄격하게 테스트하고 평가받을 수 있도록 하고 의도치 않은 행동을 할 경우 비활성화할 수 있도록 장치를 마련해야 한다는 내용도 포함됐다. 국무부는 이날 보도자료에서 “이 획기적인 이니셔티브는 AI와 ‘자율성’(Autonomy·인간 사고·판단에서 독립된 AI의 자체 판단)의 책임있는 군사 용도 개발·이용을 지도하는 10개 구체적 조치를 포함한다”고 했다.

당시 중국은 AI 기술 분야에서 핵심 국가로 이번 회의에 초청 받았지만 선언에 참여하지는 않았다. 러시아는 당시 회의에 초대받지 않았었다.

국제 사회가 ‘군사용 AI’의 사용과 한계에 대해 논의를 시작한 것은 AI 군사 기술의 실전 배치가 현실화하고 있기 때문이다. AI 강국인 이스라엘이 가자지구 전투에 AI 무기를 전면 투입하고 있다. 이스라엘 방위군(IDF)은 이슬람 무장 단체 하마스의 지난달 7일 기습 공격 이전부터 AI 도입을 추진해왔다. 2021년 가자지구에서 하마스와 11일간 분쟁 당시 적의 로켓 발사대를 식별해 ‘자살 드론’으로 공격하고, 하마스 고위 간부 2명을 폭살하는 데 성공했다고 미 언론들은 전했다. AI 가 정찰위성 등 정보자산으로 수집한 영상·이미지·음성 등 다양하고 방대한 데이터를 분석해 공습 대상을 선정하는 등 기계가 인간을 대신에 공격 판단을 내리는 수준까지 왔다는 평가가 나온다.

러시아의 우크라이나 침공에서도 AI 기술이 사용되고 있다. 미국 빅데이터 기업 ‘팔란티어’는 상용 위성이나 정찰 드론 등으로 수집한 적군 위치 정보에 AI 기술을 적용한 소프트웨어를 우크라이나군에 제공하고 있다. 플래닛랩스, 블랙스카이, 맥사 등은 위성 이미지를 생산해 이 데이터의 일부를 우크라이나 정부 및 방위군과 실시간으로 공유하고 있다.

오는 15일 미중 정상회담을 앞두고 양국 정상이 핵무기와 공격용 무인기(드론) 등에 인공지능(AI) 기술을 배제하는 합의를 도출할 수 있을 지도 관심이다. 사우스차이나모닝포스트(SCMP)는 지난 11일 양국 정상이 드론과 같은 자율무기를 운용하고 핵탄두를 배치하는 과정에서 AI 기술 사용을 금지하는 방안에 동의할 준비를 마쳤다고 보도한 바 있다.