[동아광장/전재성]국제안보 판 바꿀 AI 무기, 개발 경쟁력 갖췄나

미-중 전략경쟁 속 ‘인공지능 무기화’ 가속
한국, AI 군사력 증강 땐 국력 상승도 기대
민관 합동 총력전 펴고 국제협력 강화 필요

전재성 객원논설위원·서울대 정치외교학부 교수

다음 달 9일 우리 정부는 인공지능의 책임 있는 군사적 이용에 관한 제2차 고위급회의를 개최한다. 100개에 달하는 국가들과 국제기구, 다양한 민간 기구들이 참여하는 대규모 회의로 인공지능 자체는 물론 인공지능의 군사적 이용이 가져올 편익과 위험에 대한 의제를 다루게 된다. 불과 2년이 채 안 된 생성형 인공지능이 우리 삶에 놀라운 변화를 가져오고 있는 상황에서 인공지능의 군사적 이용에 대한 국제회의가 개최될 만큼 그 영향력은 빠르게 증가하고 있다. 세계적으로 주목받는 회의의 한국 개최는 우리의 외교력에 힘입은 바도 크지만, 반도체, 인공지능 등 우리의 기술 발전이 뒷받침되었기에 가능한 일이다.

인공지능 기술이 인간 사회에 가져올 변화는 혁명적이다. 인공지능 기술을 4차 산업혁명이라 부르기도 하지만, 산업혁명을 넘어서는 혁신성을 가진다. 인공지능은 다른 기술들의 성능을 더욱 향상시키는 메타 기술이자 증강 기술이다. 증기기관 혹은 전기의 발명에 비유되기도 하고, 심지의 불의 발견과 비교되기도 한다. 인공지능 기술은 자동화를 넘어서는 자율화를 의미하기 때문에 인간의 결정을 대체하고 능가할 수 있는 잠재력을 지닌다. 인공지능의 광범위한 적용 가능성 때문에 어느 한 분야에 국한된 영향력을 이야기하기 어렵다.

인공지능의 군사적 사용은 이미 시작되었다. 미래의 전쟁은 인공지능에 기반하여 새로운 모습을 띨 것이다. 전쟁과 평시의 구분이 사라지고, 무기를 사용하는 전쟁과 적의 마음을 공격하는 전쟁이 합쳐질 것이다. 전황을 정확하게 파악하는 감시 정찰 정보의 획득은 물론 전쟁 수행 결정에 영향을 미치고, 인공지능이 수행하는 자율화된 결정도 이용 가능하다. 군사적으로 유용한 인공지능의 발전은 과거와 달리 기업과 민간에서 주도하고 국가 전체의 지식, 산업 생태계가 관여하기 때문에 포괄적 국력이 뒷받침되어야 한다.

인공지능이 군사적으로 활용될 때 막대한 안보 편익을 기대할 수 있지만 악용된다면 폐해는 예상하기 어렵다. 기존 무기들의 지휘통제 체제를 교란할 수도 있고, 상대방의 핵심 군사정보를 오염시킬 수도 있으며, 테러 집단에 활용되어 막대한 인명 피해를 가져올 수도 있다. 더욱 두려운 것은 인간의 통제 범위를 벗어난 인공지능의 자율적 정책 결정과 이에 따른 군사적 행동이다. 군사적 효용성을 극대화하기 위해 인간의 결정을 인공지능으로 대체할 수 있겠지만, 가속화된 자율적 군사 체계는 인간의 통제 범위를 넘어선 결과를 가져올 수도 있다.

인공지능의 군사화, 무기화의 미래에 많은 국가 및 시민사회와 국제기구, 기업 등 다양한 행위자들이 공통의 관심을 기울이고 있다. 특히 인공지능에 기반한 핵무기의 지휘, 통제 시스템의 발전과 경쟁은 국가들 스스로가 의도하지 않은 파국적 효과를 가져올 수 있다. 작년 11월 샌프란시스코 아시아태평양경제협력체(APEC) 정상회의 회담에서 조 바이든 미국 대통령과 시진핑 중국 국가주석은 인공지능과 핵무기가 결합하는 추세 속에 핵무기에 대한 인공지능 적용을 통제하고자 협의했다. 미중 간 치열한 전략 경쟁에도 불구하고 핵 인공지능의 파국적 효과에 의견이 일치한 것은 그만큼 인공지능이 군사화되었을 때의 문제점을 공감한 결과라고 할 수 있다.

한국의 입장에서 인공지능의 군사화에 대해 다음의 점들을 고려해야 한다. 첫째, 인공지능의 발전은 미래 국력을 결정할 핵심 요소이다. 한국이 놀라운 산업화의 기적으로 선진국 대열에 오른 것처럼, 인공지능 경쟁에서 앞서면 10위권을 맴도는 한국의 국력이 세계적으로 향상될 수 있다. 정부와 기업, 대학과 연구기관 모두가 총체적으로 협력해야 하고, 이미 선진국들은 그렇게 하고 있다. 인공지능 전반의 발전 속에서 경쟁력 있는 군사력 증강도 기대할 수 있다.

둘째, 인공지능이 가져오는 혁명적 변화는 공교롭게도 미중 전략 경쟁의 시기와 맞물려 진행되고 있다. 현재 미국은 반도체 등 첨단 기술의 대중 디커플링의 전략을 추진하고 있고, 이는 인공지능의 지구적 생태계, 인공지능 군비 경쟁과 밀접하게 연관되어 있다. 한국의 인공지능 기술 발전이 한미 첨단 기술 협력을 필요로 한다는 점에서 미중 전략 경쟁에 대한 우리의 전략과 대미 협력 전략을 효과적으로 연결해야 한다.

셋째, 앞으로 인공지능의 군사화가 진행되었을 때 인공지능의 군사적 이용을 제한하는 국가들 간의 조약은 언제든 나타날 수 있다. 과거 핵무기의 개발 사례에서 핵무기를 개발한 국가들은 다른 국가들의 핵무기 추가 개발을 막는 비확산 체제를 만들어 비핵국가의 핵무기 개발을 영구히 불가능하게 하는 조약을 체결했다. 한국은 한편으로는 인공지능의 평화적 이용과 윤리적 통제를 위해 국제 협력을 최대한 도모하면서도 인공지능의 군사 경쟁 양상을 예의 주시하고 한국의 기술 향상을 위한 노력에 전력투구해야 한다.

전재성 객원논설위원·서울대 정치외교학부 교수