표적을 고르는 AI, ‘책임 공백’은 새로운 전쟁범죄

러시아-우크라이나 전쟁은 제1차 세계대전 지속 기간을 넘어섰다. 키이우는 ‘밀테크 밸리’가 됐고, 빅테크들은 실전 데이터를 가져간다. AI가 인간보다 똑똑해지는 것보다, 소수가 AI를 독점해 다수를 통제하는 게 더 두려운 일이 됐다.

AI는 우리 삶을 근본적으로 바꾸고 있다. 누군가는 ‘두 번째 산업혁명’에 가까운 변화를 예고하기도 한다. 흐름을 바꿀 수 없다면 무엇이 옳은 방향인지 서로에게 끊임없이 묻고 답하는 과정을 생략해서는 안 된다. 인터넷·스마트폰의 등장과 비교해 AI가 본질적으로 다른 점은 무엇인가. 이 기술은 나에게 어떤 의미인가. 또 내 일상을 구체적으로 어떻게 바꾸는가. 오늘날 우리가 AI에 던지는 질문은 어떤 미래를 만들고자 하는지 보여주는 밑그림이기도 하다.

AI에 대해 궁리하다 보면 결국 ‘인간다움’에 대해 질문하게 된다. 윤리·책임·신뢰 같은 사회의 핵심 가치가 그 안에 포함된다. 법과 제도는 기술변화의 속도를 따라가지 못한다. 기술이 인간 앞에 서지 않게 할 수 있을까. 끌려가지 않고 함께 갈 수 있을까. 그 어느 때보다 상상력이 필요한 시기이기도 하다. 경제 논리와 효율 너머 AI가 남긴 질문들을 점검할 때다. 기술과 인간 사이의 경계를 조정하고, 상호작용의 방식을 다시 쓰고, 방향을 제시하며 기준을 합의해야 할 숙제가 우리 앞에 놓여 있다.

〈인간 없는 전쟁〉을 쓴 최재운 광운대 교수(경영학부 빅데이터경영), 교육 현장에 AI 기술이 활용될 가능성을 탐구하는 조수현 계명대 교수(교육학과), 피해자 지원 기술을 연구하고 개발하는 조경숙 도토리랩스 대표, 국가AI전략위원회 공공AX분과 위원장을 맡아 공공부문의 AI 전환을 이끄는 박태웅 녹서포럼 의장에게 AI 시대를 지혜롭게 건너가기 위한 방법을 물었다. ‘정직한 비관’으로 쌓아 올린 〈시사IN〉의 질문이다.

최재운 광운대 교수는 드론과 알고리즘이 전쟁을 근본적으로 재편하는 광경을 목격하면서 생긴 문제의식을 바탕으로 <인간 없는 전쟁>을 썼다. ⓒ김흥구

■ 최재운 광운대 경영학부 빅데이터경영전공 교수, 전 삼성전자 삼성리서치 AI센터 엔지니어, 〈인간 없는 전쟁〉 저자.

최재운은 삼성전자에서 개발과 전략 기획 업무를 했다. 특히 사물인터넷(IoT) 부문에서 빠르게 치고 나간 경험은 지금 돌이켜봐도 “너무 재밌었다”. 그러나 곧이어 번아웃이 왔다. 입사 6년 만이었다. 넘어진 김에 삶의 경로를 틀어보기로 했다. 2020년 대학으로 이직했다. 다행히 말하는 걸 좋아했다. 학교에 오고 나서 방학이 되면 아내가 힘들어할 정도였다. “수업을 하면 말을 많이 하고 오니까 집에서 이야기를 덜 하는데, 방학 때는 말을 많이 한다고 싫어했다(웃음).”

이전과는 완전히 다른 전쟁, 살상의 결정권이 AI로 넘어가는 단계까지 왔다는 위기감이 대중서를 쓰게 만들었다. 지난 1월 〈인간 없는 전쟁〉(북트리거) 출간 뒤인 2월28일 미국-이란 전쟁이 터지면서 책이 입소문을 탔다. ‘지독한 운’이라고 느꼈다. 기존에는 머신러닝을 통해 스팸메시지 등에서 이상 행위를 탐지하고, 산불 같은 재난에 AI 감시 체계를 도입하는 연구를 했다. 지금은 방위사업청이나 국회입법조사처 등 자문 요청에 응하기도 한다. 연구 방향도 국방 쪽으로 범위를 넓히고 있다. 최재운이 사용하는 AI에는 모두 이름이 있다. 실험하는 AI의 이름은 ‘밤샘이’고 각종 논문을 리뷰하는 AI의 이름은 ‘깐깐이’다. 밤샘이와 깐깐이를 오가며 “알고리즘의 속도로 진행되는” 전쟁을 주시하고 있다.

21세기 전쟁의 풍경은 이전 시대와 다르다.

현재 관심사에서 벗어나 있지만 러시아-우크라이나 전쟁에서 AI 쓰임새가 무시무시할 정도다. 드론에 들어가는 AI 기술 발전으로 전쟁 기간이 매우 길어진다. 최전방에서 한참 떨어진 모스크바에 대한 대대적 공습도 계속되고 있는데 뉴스에 잠깐 나오고 만다. 정찰이나 단거리 타격에나 쓰이던 드론이 지금은 수백㎞, 멀리는 2500㎞ 떨어진 곳까지 타격할 수 있다. 전쟁이 장기화되면서 중저가 드론 기술이 엄청나게 발전했다는 의미다.

전쟁 중 AI로 실시간 의사결정이 이루어진다.

요즘 내비게이션 안 보고 운전하는 사람이 있나. 사람은 몸이 한번 편해지면 예전으로 돌아갈 수 없다. AI도 마찬가지다. 무엇을 표적 삼고 공격할지를 판단하는 일이 AI 알고리즘의 몫이 되었다. 일종의 ‘네트워크 중심전’이다. 드론이 적을 발견하면 가장 가까운 포대가 자동으로 배정되고, 위성이 함대를 포착하면 즉시 미사일 부대에 좌표가 전송된다. 이 과정을 조율하는 게 AI다. 미군은 ‘모자이크전(mosaic warfare)’을 아예 미래 전술 개념으로 채택하고 있다. 드론을 군집시켜 전술을 펼친다. 휴먼 인 더 루프(Human in the Loop)라고 해서 AI가 판단을 내리는데, 실행 전 반드시 인간의 승인을 받게 할 수는 있다. 무기 발사 같은 되돌릴 수 없는 결정에 필요하다. 그러나 원칙으로 정해놨다고 해도 급박한 상황에서 드론 하나하나를 승인할 수 있겠나. 책임감 있는 결정을 내리기가 훨씬 어려워졌다. 기술이 제공하는 편의에 대한 믿음이 클수록 인간은 자신의 판단력을 스스로 포기할 수 있다. ‘자동화 편향(automation bias)’이다.

‘전쟁의 민주화’라는 표현을 썼는데.

미래학자인 피터 워런 싱어가 한 말이다. 고가의 첨단 무기 없이도 드론과 AI를 활용한 ‘가성비’ 기술로 누구나 강대국에 치명적 타격을 줄 수 있는 시대다. 하드웨어(드론)만 있으면 오픈소스로 공개된 소프트웨어(AI)를 넣어서 그냥 날리면 된다. 우크라이나가 지금 집중하는 것 중 하나가 크림반도로 향하는 고속도로 위 차량을 드론으로 집요하게 타격하는 것이다. 물류 봉쇄 작전, 말 그대로 ‘죽음의 고속도로’다. 물자가 오갈 수 없어 크림반도가 말라가고 있다.

저가 드론은 테러 집단에서도 사용할 수 있는 것 아닌가.

대표적으로 예멘의 후티 반군이 이미 그렇게 사용하고 있다. 자체 조립한 저가 드론이 이지스 구축함과 맞선다. 몇백억 원짜리 무기에 몇백만 원도 안 되는 드론이 맞서는 거다. 기술의 민주화가 가져온 가장 재앙적인 형태라고 할 수 있다. 대량생산이 가능하고, 저렴하다. 어디서든 충분히 모방이 가능하다. 북한도 예외는 아니다.

러-우 전쟁은 2026년 6월11일을 기점으로 제1차 세계대전 지속 기간인 1568일을 공식적으로 넘어섰다. 지난 4년 사이 우크라이나 수도 키이우는 전 세계 국방 기술이 모이는 ‘밀테크 밸리(Mil-Tech Valley)’가 됐다. 나라 전체가 전쟁 기술 연구개발(R&D) 실험장인 셈이다. 팔란티어, 구글, 마이크로소프트 같은 빅테크부터 스타트업까지 전 세계 수십 개 기업이 우크라이나에 기술을 제공하며 평시라면 절대 얻을 수 없는 실전 데이터를 얻고 있다. 이 데이터는 다시 AI를 더 ‘똑똑하게’ 만드는 데 활용된다. 역사상 최초로 기술이 정부를 앞서 나가기도 한다. 일론 머스크가 우크라이나에 제공한 위성 인터넷 스타링크가 대표 사례다. 전쟁 초기, 러시아가 우크라이나 통신망을 폭격하는 와중에 페도로프 우크라이나 부총리가 SNS로 일론 머스크에게 도움을 요청했다. 일론 머스크가 제공한 스타링크 시스템은 우크라이나 통신망을 빠르게 복구했다. 스타링크는 곧 우크라이나군 통신 표준이 되었다. 문제는 ‘독점’ 다음이었다. 일론 머스크는 스타링크에 기술 제한을 가하는 등 통제하기 시작했다.

국제사회가 ‘레드라인’을 만들 수 있을까.

과거에는 국가가 기술을 주도했는데 이제는 기업이 국경과 정부를 넘어서는 결정을 내린다. ‘킬 스위치’가 제조사에 있다. 이처럼 소수가 기술을 독점할 때의 폐해를 계속 감시해야 한다. AI가 인간보다 똑똑해지는 걸 걱정할 게 아니라, 소수가 AI를 독점해 다수를 통제하는 걸 두려워해야 한다. 단순한 권고로는 실효성을 갖기 어렵다. 당장 미국 대통령부터 들은 척도 안 한다. 법이 있고 제도가 있어도 안 지키면 그만이다. 그럼에도 관련한 목소리가 계속 나오는 건 의미 있다. 그거라도 있으니까 눈치 보고, 브레이크도 건다.

앤스로픽을 비롯한 AI 기업에도 ‘안전’은 주요 이슈 아닌가?

주요 AI 기업 CEO들 레퍼토리가 비슷하다. AI가 위험하기 때문에 ‘우리가’ 안전을 지키겠다고 한다. 아무도 못하고 나만 할 수 있다는 주장이다. 독재자의 주장과 다를 게 없다. 새로운 기술이 인류를 멸망시킬 거라는 담론은 인류의 특성 같다. AI 이전에는 핵이 그 지위를 차지하고 있었다. 사실 ‘큰 한 방’에는 어쩌면 대응할 수도 있다. 그런데 AI처럼 서서히 잠식해나가는 상황은 더 위험하다. 종말론적인 세계관으로 AI를 보기보다 AI가 현재 바꾸는 사회현상을 좀 더 직시해야 한다. AI를 머리에 얹은 드론이 보여주고 있듯 세상이 정말 엄청나게 바뀌리라는 것은 자명하다. 빅테크 기업이 공통적으로 이야기하는 것 중 하나가 기본소득이라는 점도 주의 깊게 봐야 한다. 좀 세게 말하면 빅테크들이 죽기 싫어서 그러는 것이라고 본다. 사회를 무너뜨리지 않으면서 1%의 지위는 유지하려고 하니 그 대안이 기본소득이 되는 거다.

일상에서 범죄가 벌어지면 범죄를 저지른 사람을 처벌할 수 있는 법이 있다. 그런데 국가 대 국가 간의 전쟁 중 발생하는 전쟁범죄에 대해 책임을 묻는 일은 지금도 쉽지 않다. 그렇다면 전쟁 중 AI가 내린 결정으로 민간인이 희생되면 책임은 누가 져야 할까. AI를 만든 개발자? 시스템을 운용한 군인? 작전을 승인한 지휘관? AI는 책임을 더 모호하게 만들고 분산할 가능성이 높다. 최재운은 ‘책임 공백(accountability gap)’이 우리 앞에 놓인 새로운 딜레마라고 설명한다. “한국에서 개발하는 거의 모든 무기 체계에 AI가 이미 들어가 있는” 한국 방산업계도 이 딜레마에서 자유롭지 않다.

6월24일 세종경찰청 세종기동단에서 열린 대테러 합동훈련에 참가한 경찰 대원이 정부세종청사로 진입하는 불법 드론을 향해 재밍건을 쏘고 있다. ⓒ연합뉴스

한국의 드론 및 방산 관련 대응은 어떻게 평가하고 있나.

2~3년 전까지만 해도 ‘드론 쇼’에 집중한 모양새였다(웃음). 드론이라는 하드웨어를 이어줄 수 있는 소프트웨어 플랫폼 체계를 갖춰나가는 게 우선인데 한국은 아직까지 약하다. 일단 드론 생태계 자체가 중소기업 위주로 이루어져 있다. 저가 경쟁으로 중국을 이길 수 없고, 기술력으로는 미국에 비할 수 없다. 민간 수요가 없는 분야이기 때문에 정부가 어느 정도 수요를 보장해준 상태에서 투자를 해야 하는 영역이다. 중소기업에 AI용 OS를 만들라고 하는 건 무리다. AI 발전 속도가 워낙 빠르다 보니 법이나 제도가 못 따라오는 것은 한국만의 문제가 아니다.

관련해 주목해서 보고 있는 나라가 있나?

요즘 성과 내는 국가들을 보면 중국 오픈소스를 기반으로 하고 있다. 0부터 시작하기 쉽지 않은데, 중국에서 95점 정도 되는 괜찮은 소스들을 공개하고 있다. 브라질 같은 나라가 중국의 고성능 오픈소스를 가져와 성과를 낸다. 자국 데이터만 파인튜닝해서 빠르게 성과를 내는 실리주의를 택하는 거다. 대놓고 ‘중국 것 썼다’고 한다. AI 내부 결정 로직이 겉보기에는 그럴싸해도, 매우 복잡하고 불투명하다. 오죽하면 ‘블랙박스’라고 할까. 이런 특성이 있다 보니 중국 기술이나 데이터 보안 문제에 민감하지 않은 국가 등에서 택할 수 있는 전략이다. 한국은 그럴 수 없다. 당장 독파모(독자 AI 파운데이션 모델)에 참여했던 네이버 하이퍼클로바X가 중국 알리바바의 큐웬 소스를 일부 썼다가 탈락하지 않았나.

군사 분야에서 대규모 언어 모델(Large Language Model)이 활용되는 방식도 주의 깊게 봐야 한다고 했는데.

연구해보고 싶은 주제 중 하나인데, LLM마다 특성이 다르다. 앞으로 전장에서 상대가 어떤 LLM을 쓰느냐에 따라 전략도 많이 달라지리라고 본다. 실제 2026년 영국 킹스칼리지런던의 케네스 페인 전략학 교수팀이 챗지피티, 클로드 등 주요 LLM에 국제정치 갈등 시나리오를 주고 모의 외교·군사 게임을 진행한 적 있다. 어떤 모델은 핵무기 선제공격을 결정하는 등 호전성을 보였고, 또 다른 모델은 협상적인 모습을 보였다. 설정을 어떻게 하는지에 따라 제안하는 작전 계획도 달라질 거다. 상대가 쓰는 LLM이 무엇인지 파악해야 하니 첩보전도 어마어마하게 벌어지고, 해킹 시도도 많이 일어날 것이다.

“모두를 위한 AI라는 슬로건은 아름답지만 공허하다”라고 했다.

전쟁뿐만 아니라 모든 영역에 AI 도입은 디폴트다. 무조건 막으려다 흥선대원군 꼴이 된다. 흐름을 바꿀 수 없다면 옳은 방향이 무엇인지 끊임없이 묻고 합의해야 한다. 핵무기나 화학무기가 그랬듯 AI도 사고를 칠 거다. 사고의 규모 자체는 이전과 다르겠지만 인류를 믿는다. AI가 무엇이든 다 해준다고 해도, 그것으로 ‘승부’를 봐야 할 사람은 우리다.

※8월4일 오후 2시 서울 중구 페럼타워 페럼홀에서 2026 〈시사IN〉 인공지능 콘퍼런스가 열립니다. 최재운 교수는 ‘인간 없는 전쟁, AI를 통제할 수 있을까’라는 주제로 발표합니다. 참가 신청: saic.sisain.co.kr

장일호 기자 ilhostyle@sisain.co.kr