테헤란의 불기둥…빌런과 빅테크가 합작한 AI 잔혹극

인공지능전쟁의 도래

미국과 이스라엘의 이란 공격 이틀째인 1일(현지시각) 테헤란에서 화염이 치솟고 있다. 테헤란/EPA 연합뉴스

“시간이 별로 없다.”

에스에프(SF) 스릴러 ‘킬 디시전’을 쓴 작가 다니엘 수아레즈는 12년 전 테드(TED) 강연에서 자율살상무기체계의 위험을 경고하며 이렇게 말했다. 인간의 판단과 개입 없이 전투를 수행하는 킬러로봇, 자동화된(인공지능) 드론 등이 더이상 개발·확산하지 않도록 서둘러 행동에 나서야 한다는 촉구였다. 그는 이런 무기들이 지닌 ‘치명적 자율성’이 극대화할 경우 대규모 인명 피해에 그치지 않고 권력 분점, 민주주의 등 그간 인류가 쌓아온 가치 질서의 붕괴로 이어질 것이라고 예견했다.

지난달 28일(현지시각) 오전 미국·이스라엘이 벌인 이란 공격은 인공지능 전쟁 시대의 본격화를 알린 충격적 사건이었다. 알리 하메네이 최고지도자를 비롯한 군 수뇌부에 대한 정밀 타격, 군기지·정부 핵심시설 등에 가한 동시다발 폭격 등으로 이란 곳곳이 불타오르는 사이, 이란 인터넷망은 먹통이 됐다. 수백만 이란 국민들이 사용하는 기도 앱(바데사바)도 해킹돼 ‘심판이 시간이 왔다’ ‘해방군에 합류하라’는 등의 알림 메시지가 잇따라 올라왔다. 16세기 화약과 20세기 핵을 넘어 21세기 ‘제3의 전쟁혁명’이 눈앞에서 펼쳐진 셈이다.

실리콘밸리, 이란전에 본격 등장…‘거대언어모델’, 작전참모 역할도

이 잔혹극의 지휘자는 도널드 트럼프와 베냐민 네타냐후 등 ‘빌런 리더’들이었지만 진짜 주역은 팔란티어·앤스로픽·스페이스X·안두릴 등 인공지능 테크 기업들이었다. 미 국방부는 지난 2017년 인공지능을 기반으로 드론 수집 영상 등 방대한 데이터에서 사람과 사물을 자동식별하는 ‘메이븐 프로젝트’를 시작했는데, 이에 참여한 팔란티어는 위성사진·드론 영상 ·감청 데이터 등 파편화된 데이터를 통합·분석하는 플랫폼 ‘고담’을 개발했다. 팔란티어는 이란 지도부의 움직임과 군사시설 위치 및 운영 상황 등을 식별해 수천개의 타격지점을 제시하며 실시간 상황판을 짰다.

무엇보다도 이번 전쟁에서 주목받은 것은 거대언어모델(LLM)의 본격 활용이었다. 최근 몇 년간 경쟁적으로 개발된 생성형 인공지능을 군에 적극 도입해 정보의 양과 질을 비약적으로 높인 것은 이미 알려져 있었지만, 이를 전쟁 수행에 직접 활용한 사실이 드러난 건 이례적이었다. 앤스로픽이 만든 ‘클로드’는 팔란티어 등이 훑어낸 방대한 데이터를 종합해 타격 지점과 순서, 방법 등 전략을 제시하는 작전 참모 역할을 수행했다. 저궤도 군집위성 ‘스타링크’를 이용해 어떤 전파교란에도 방해받지 않고 데이터를 실시간 수집·전송하는 스페이스X, 인공지능 운영체제(OS)를 갖춘 고성능 자율 전투기를 운용하는 안두릴 등도 이란전의 주요 플레이어들이었다.

양우진 안보경영연구원 선임연구원은 저서 ‘AI와 전쟁’에서 ‘21세기 신흥 무기상’으로 시가총액이 전통방산업체 록히드마틴을 뛰어넘는 팔란티어, 미 국방부의 초고속 데이터 기반 전투관리 시스템 구축에 나선 아마존, 미 육군에 통합증강시스템(IVAS)를 납품하는 마이크로소프트 등을 지목했다. 그는 “한때 자유와 혁신을 상징했던 실리콘밸리는 인공지능을 기반으로 첨단 군사기술을 주도하며 21세기형 새로운 군산복합체로 빠르게 탈바꿈하고 있다”고 짚었다.

‘빛의 속도’로 데이터 분석·판단…인간의 공격승인 결정권 박탈 우려

밀 테크(Military Technology) 중심의 산업생태계는 인류를 전례 없는 위험으로 몰아넣는다. 한국과학기술원(KAIST)의 김창익 안보과학기술대학원장은 “이번 이란 공격에서 보듯 인공지능이 전쟁의 모든 측면에 계속해서 통합되면 전투 속도는 더욱 빨라질 것”이라며 “아직은 최종 공격 승인 권한이 사람에게 주어져 있지만, 결국엔 인간 지휘관이 변화무쌍한 전장 상황을 빠른 시간 내에 파악해 판단하는 것이 어려워진다. 고도로 발전한 인공지능에 결정권을 넘겨줘야 한다는 압력이 높아질 것”이라고 말했다. 또 “인공지능은 살상에 대한 망설임도 죽음에 대한 공포심도 없기 때문에 전쟁을 시작하는 장벽이 더욱 낮아진 반면, 인간이 직접 전장에 투입되지 않음으로써 장기전으로 갈 가능성은 커졌다”고 지적했다.

인간의 금기를 무시하는 인공지능의 속성은 실험으로도 증명됐다. 영국 킹스칼리지의 케네스 페인 교수(국제관계정치학)는 클로드 소넷 4(앤스로픽), 지피티 5.2(오픈 AI), 제미나이 3 플래시(구글)를 놓고 ‘워게임’을 시킨 결과를 최근 공개했다. 세 가지 인공지능 모두 가상 상황의 95% 빈도로 최소 한 차례 이상 핵무기 버튼을 눌렀다. 1945년 히로시마 원폭투하 이후 핵무기를 사용해선 안 된다는 인류의 레드라인이 인공지능엔 무의미했다. 최근 미 백악관이 ‘아이언맨’ ‘탑건’ ‘트랜스포머’ 등 미 에스에프(SF) 영화를 짜깁기해 수천 명의 목숨을 앗아간 이란 전쟁을 한 편의 워게임처럼 홍보한 것은 윤리적 타락이라는 인공지능 전쟁의 본질을 적나라하게 드러낸다.

지난 1일(현지시각) 이란 정부 핵심 시설이 폭격 당하는 동영상을 이스라엘군이 공개했다. 연합뉴스

인공지능 무기의 정밀성에 대한 맹신은 아날로그적 오류와 결합해 참극을 낳기도 한다. 미국이 군 시설을 폭격하는 과정에서 이란 남부 미나브의 초등학교에 미사일이 떨어져 170여명의 어린이가 희생된 게 대표적 사례다. 이 학교는 군 기지 터에 세워졌는데 미군의 지리 정보가 업데이트되지 않는 바람에 표적이 된 것으로 미 국방부 예비조사 결과 드러났다.

우발적 충돌, 장기전 가능성에도 ‘AI무기 규제’ 국제적 합의 요원

하지만 ‘빛의 속도’로 다가오는 위험을 목도하면서도, 인공지능 무기 개발과 사용을 제한하는 ‘규범’을 만들자는 국제사회의 움직임은 매우 더디다. 현재 유엔은 ‘특정재래식무기협약’(CCW) 틀 안에서 인공지능무기 규제 합의를 끌어내는 절차를 십여 년째 밟는 중이다. 지난해 열린 CCW 회의에선 치명적자율살상무기 (Lethal Autonomous Weapon Systems·LAWS) 전면금지를 촉구하는 ‘킬러로봇금지동맹국’(오스트리아 등 32개국)과 ‘정밀한 인공지능 무기가 민간인 피해를 줄인다’는 미국 등의 주장이 충돌했다. 이 회의 후속으로 ‘자율살상무기 전문가그룹(GGE)’ 회의가 지난 2~6일 열렸으나 법적 구속력이 있는 규범이나 협약을 채택하지 못한 채 ‘인간 통제의 정의’ 등 핵심 현안을 계속 논의하는 틀을 만드는 수준에서 마무리됐다.

“시간이 없다”는 수아레즈의 외침은 과연 각성과 실천으로 이어질 것인가, 아니면 공허한 메아리로 남을 것인가. 오는 8~9월 다시 열리는 전문가그룹회의, 11월 예정된 CCW 회의가 인류의 안전을 결정하는 분수령이 될 것으로 보인다.

이주현 사람과디지털연구소 기자 edigna@hani.co.kr