해상전도 무인으로…“인간 승인에 20초, AI가 확전을?”

[앵커]

이번 중동 사태는 인공지능의 판단에 인간이 어디까지 의존할 것인가 하는 근본적인 질문을 던진 전쟁이 됐습니다.

이란과 미국은 공중의 드론뿐 아니라 해상에도 무인 수상정을 투입했는데요.

이렇게 무인 무기가 확산되면서 전쟁 확대나 대량 살상과 같은 중요한 결정을 사실상 인공지능이 내리는 세상이 오는 건 아닐지, 휴전은 됐지만 우려는 그치지 않습니다.

박대기 기자가 취재했습니다.

[리포트]

가상의 적을 향해 무인 수상정 열 척이 질주합니다.

인공지능이 적의 의도를 추론한 뒤 역할을 나눠 격퇴하는 것입니다.

국방과학연구소가 개발 중인 '군집 무인수상정'입니다.

[김영진/한화시스템 해양사업단 : "(적을) 탐지한 다음에 평가하고 어떤 무장을 할당한 다음에 그 지휘관에게 권고하는 모든 기능이 AI를 적용해서 구현되어 있다.."]

12m 길이의 감시 정찰용 무인 수상정 2척도 우리 군과 LIG가 내년까지 개발합니다.

무인 수상정에 대한 관심은 이번 중동 사태가 기폭제 역할을 했습니다.

공습에 살아남은 이란의 무인 수상정이 호르무즈를 봉쇄한 것입니다.

[김영진/한화시스템 해양사업단 : "무인 수상정이 (호르무즈) 해안에서 출발했을 때 10분 안에 배에 도달하게 됩니다. 상선에서는 이걸 포착하고 막아낼 수 있는 기능 자체가 없다…."]

미국도 처음으로 무인 수상정 투입 사실을 공개해 해상전까지 무인 시대가 열렸습니다.

수백 대의 무인 무기 등이 수집한 정보를 인공지능이 추론하면, 촌각을 다투는 실전에서 인간 결정자는 여기에 의존할 확률이 높아집니다.

가자전쟁 당시 이스라엘의 표적 식별 AI를 군인이 승인하는 데 20초 걸렸다는 외신 보도도 나왔습니다.

[최병호/고려대 휴먼인스파이어드 AI 연구원 연구교수 : "20초가 걸린다는 얘기는 사실상 검토를 안 했다는 것과 똑같은 얘기입니다. 사실상 AI의 판단을 존중하는 상황으로 가는 것이죠. 그런데 만약에 그 과정에서 오류가 발생하면 이거는 돌이킬 수가 없는 상황이 발생하는 겁니다."]

170여 명이 숨진 미군의 이란 초등학교 운동장 오폭..

낡은 정보가 입력된 인공지능의 판단을 인간이 걸러내지 못했을 가능성이 제기됩니다.

[김현준/성공회대 평화월딩연구소 교수 : "자동화를 계속 우리가 경험하다 보면 자동화라는 걸 인식을 못 하게 돼요. 여러 폭격지가 데이터로 들어오면 그것을 '아 이거는 맞겠구나라고'하고 그냥 넘어가서…. 인간이 숙고한다는 거는 전장에서 사실은 어 거의 불가능하다고 볼 수가 있고 오히려 빨리 이 인공지능이 판단한 것을 더 빨리 승인해야 되는 그런 상황에 빠지기 때문에…."]

값싼 무인 무기와 인공지능은 전쟁의 문턱을 낮추고 작은 분쟁을 전면전으로 만들 수도 있습니다.

핵이나 화학 무기처럼 인공지능에도 국제 규범이 필요한데, 국내 유치를 추진 중인 유엔 AI허브가 창구 역할을 할 수 있습니다.

KBS 뉴스 박대기입니다.

취재협조:LIG D&A 한화시스템/촬영기자:박세준 이중우 송상엽/영상편집:조완기

■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 유튜브, 네이버에서도 KBS뉴스를 구독해주세요!

박대기 기자 (waiting@kbs.co.kr)