일자리·생산성 이어 군사 분야로 확산되는 AI 위협

'AI가 주역이 된 3차 세계대전'을 주제로 달리3로 생성한 이미지. 팽동현 기자

올해 세계경제포럼(다보스포럼)의 화두도 AI(인공지능)다. IMF(국제통화기금)는 AI가 세계적으로 일자리 40%에 영향을 주면서 불평등을 심화시킬 것으로 예측했다. 아르빈드 크리슈나 IBM CEO(최고경영자)는 2030년 이전에 연간 4조달러(약 5378조원) 규모의 생산성 증가를 예상했다.

이런 가운데 AI의 실질적 위협에 대한 우려가 커지고 있다. 홍콩 SCMP(사우스차이나모닝포스트)는 최근 중국인민해방군과 연계된 대학 연구진이 LLM(거대언어모델) 기반으로 적군(미군)의 전투 전략을 예측하는 AI시스템을 테스트하고 논문을 게재했다고 보도했다.

중국 빅테크 바이두는 자사 LLM '어니'가 여기에 쓰인 것으로 알려져 주가가 떨어지기도 했다. 회사 측은 사실을 부인하는 상태다.

오픈AI는 최근 챗GPT 등 자사 AI 이용약관에서 '군사 및 전쟁' 등에 사용을 금지한다는 내용을 삭제했다. 자신이나 타인에게 해를 끼치는 행위에 사용할 수 없다는 조항은 유지했다. 주요 인프라·산업에 쓰이는 오픈소스SW(소프트웨어) 보호를 위해 미 국방부 산하 DARPA(고등연구계획국)와 함께 사이버보안 도구를 개발하고자 정책을 변경했다고 밝혔다.

이 가운데 군사 분야에서 AI 활용을 제한해야 한다는 목소리가 나오고 있다. 러시아-우크라이나, 이스라엘-하마스 등 세계 주요 전쟁·분쟁지역에서 이미 드론이 탱크도 잡는 상황에서 AI가 탑재된 치명적인 자율무기가 재앙으로 이어질 수 있다는 관측이다.

AI가 군사분야에 쓰이면 각종 센서로 수집된 대량 데이터를 신속하게 분석해 전장 환경·상황을 파악·예측할 수 있다. 이를 바탕으로 더 빠르게 표적을 식별해 유리한 고지를 선점하거나 대응에 앞설 수 있다. 정찰, 지휘통제, 군수 등에도 다양한 활용이 예상된다.

이런 AI 기술 관련 통제와 의사결정 권한을 인간이 쥐고 유지하는 게 관건이 될 수 있다. 스티브 펠드스타인 카네기국제평화재단 선임연구원은 시카고대가 발행하는 핵과학자협회 학회지 '불리틴'을 통해 "AI의 군사적 활용에 있어 감독 역량과 예측 가능성을 강화해야 한다"며 "미국이 자국 AI 무기 개발에 대한 감독을 약속함으로써 선도적 역할을 할 수 있고, 전문가 모니터링 그룹을 구성해 AI가 전쟁에 사용되는 것을 감시할 수 있다"고 주장했다. "공통의 틀과 합의된 제한이 없다면 각국은 더 파괴적인 시스템을 제한 없이 연속적으로 배치하면서 경쟁을 벌일 위험이 있다"는 주장이다.

미국 싱크탱크 브루킹스연구소는 미국과 중국 양강이 먼저 AI의 군사적 활용과 관련해 일정선의 합의를 이룰 필요성을 제기했다. 그 창구로 지난해 11월 바이든 대통령과 시진핑 주석이 정상회담에서 합의한 AI 관련 대화채널을 지목했다. AI가 이미 양국 군사시스템에 일정부분 탑재돼 있지만, 향후 기술 발전을 고려해 두 강대국부터 군사적으로 허용 가능한 자동화 활용에 대한 경계선을 긋고 공감대를 형성해야 한다는 것이다. 브루킹스 측은 "인간만이 핵 발사 결정을 내릴 수 있고, 이런 결정은 절대 자동화돼서는 안 된다는 공통의 이해와 같은 가시적인 성과를 얻어야 한다"고 했다.

'불리틴'은 유명 그래픽노블 '왓치맨'에도 상징적으로 등장한 '지구종말시계'를 발표하는 곳이기도 하다. 지난해에는 자정 90초 전이었다. 오는 23일(현지시간) 공개되는 2024년의 시각은 현 국제정세를 감안하면 더 촉박해질 것으로 보이며, 여기에 AI의 위협도 반영될 가능성이 있다.

다만 이런 우려를 이유로 국방 분야의 AI 도입·활용을 저해하는 일은 없어야 하고 그 실익도 없다는 게 전문가들의 의견이다. 곳곳에서 지정학적 리스크가 고조되는 상황인 데다 북한의 도발 위협도 여전히 상존하기 때문이다. AI 규제와 마찬가지로 글로벌 흐름과 보조를 맞추면서 최대한 역량을 확보해나갈 필요가 있다는 견해다.

권헌영 고려대 정보보호대학원 교수는 "앞으로 AI의 군사적 이용은 일정수준 이상에선 핵무기 등 대량 살상무기 개발과도 유사한 성격을 띠며 그와 같이 간주될 수도 있다. 하지만 과거 군비경쟁이 그랬듯 어느 나라든 겉과 속이 다르게 행동할 가능성이 적지 않으므로 국방AI도 뒤처지지 않는 게 더 중요해 보인다"며 "군사AI 관련해 정치외교적 메시지 수준을 넘어 실제로 글로벌 협력이 이뤄지려면 먼저 공통의 검증체계가 마련돼야 하고 핵심 과학자 등 실무단에서 상호 소통이 있어야 할 것"이라고 분석했다.팽동현기자 dhp@dt.co.kr