“AI 군비경쟁 계속돼도 전쟁 멈추는 건 여전히 인간의 몫”

[인터뷰] ‘인간 없는 전쟁’ 저자 최재운

최재운 교수 제공

마치 두 달 뒤 벌어질 사건을 예견하며 쓰인 듯했다. 지난 1월 초 발간된 ‘인간 없는 전쟁’ 얘기다. 한국과학기술원(KAIST)에서 머신 러닝을 전공한 최재운 교수(광운대 경영학부)는 이 책에서 인공지능 무기체계를 분석하며 “우리가 마주한 새로운 전쟁의 얼굴”을 세밀화로 보여줬다. 최첨단 인공지능이 짠 각본대로 진행된 이란 전쟁을 어떻게 평가하는지 궁금했다. 이제 ‘인간 없는 전쟁’이 시작된 것일까. 최 교수와 전화로 만났다.

―책은 에이아이가 지배한 첫 전장으로 러시아·우크라이나 전쟁을 주목했다. 이란 전쟁은 우크라이나전과 또 어떤 차이가 있나.

“책에서 예상했던 대목, ‘알고리즘이 전략을 짜는 시대’가 현실로 나타났다. 앤스로픽 클로드 같은 거대언어모델(LLM)이 군에서 광범위하게 사용되고 있을 거란 예상은 했지만, 전투에 직접 관여하고 있다는 사실이 드러난 건 이번이 처음이다. 생성형 에이아이 도구들은 전략을 수립하는 인공지능 참모이자 복잡한 전술 시뮬레이션을 수행하는 훈련 플랫폼이 될 수 있다. 전쟁의 본질이 바뀌고 있다.”

―거대언어모델 외에 또 어떤 인공지능 무기가 등장할까.

“미국의 이란 공습 때 인상적인 것이 자폭 드론이 떼 지어 공격하는 장면이었다. 비싼 드론만 쓰던 미국이 이번엔 이란 샤헤드 드론 기술을 역이용한, 상대적으로 저렴한 가성비 드론으로 물량전을 펼치더라. 인공지능 기반 군집 드론의 시대가 열렸다고 본다. 중국은 이미 2024년 주하이 에어쇼에서 대형 무인항공기가 자율적으로 소형 드론 떼를 발진시켜 군집 공격을 펼치는 모습을 보여줬다. 네트워크로 연결된 드론들이 작전 자율성을 지니고 운용되면 더욱 방어가 어려워진다.”

―앞으로 무기 개발 양상은 어떻게 바뀔까.

“예전에는 미 국방고등연구계획국(DARPA) 등 정부 부문에서 기술 개발을 선도하는 방식이었다면 이제는 테크기업들이 먼저 첨단기술을 개발하면 정부가 이를 수용하는 양상이다. 기업 주도력이 강해졌다.”

―무기 개발을 민간이 주도하는 것은 매우 위험하지 않나. 정부는 선거 등 제도를 통한 견제 수단이 있지만, 기업 견제는 쉽지 않다.

“그렇다. 좀 공허하게 들릴 순 있지만 그래도 ‘깨어 있는 시민의 힘’에 희망을 건다. 미 전쟁부(국방부)는 지난해 말 앤스로픽에 ‘합법적 용도’라면 클로드를 제한 없이 사용하자며 계약 개정을 요구했다가 앤스로픽이 거절하자 즉각 계약을 해지하고 오픈에이아이(AI)와 손을 잡았다. 이 사실이 알려지면서 챗지피티 보이콧 운동이 벌어졌고, 클로드는 앱스토어 1위에 올랐다. 그런 움직임들이 테크기업을 견제하는 역할을 할 수 있다고 본다.

인공지능이 무기로 쓰이냐 아니냐의 문제를 단순하게 선과 악의 문제로 볼 순 없다. 국방은 국가 단위에서 생존의 문제다. 인공지능 군비경쟁은 멈출 수 없다. 더 강력한 인공지능 무기가 속속 등장할 것이다. 하지만 전쟁을 시작하고 멈추는 것은 여전히 인간의 몫이다. 새로운 인공지능 서비스를 내놓은 기업엔 누구의 이익을 위한 것인지를 묻고, 정부엔 투명성과 책임성을 요구해야 한다. 인공지능 무기가 전쟁에 사용되었다면 어떤 방식으로 작동했는지 추궁하자.”

이주현 사람과디지털연구소 기자 edigna@hani.co.kr