부천역 BJ 체포 영상, AI로 만든 가짜였다... 30대 유튜버 구속 송치

경찰, 정보통신기본법 등 혐의로 구속 송치

경찰의 '보디캠' 영상물인 것처럼 인공지능(AI)으로 만든 영상 화면 캡처. 경기북부경찰청 제공

인공지능(AI)으로 경찰관의 ‘보디캠’(몸에 장착하는 소형 비디오 녹화 장치)에 찍힌 것처럼 가짜 영상물을 만들어 유포한 혐의를 받는 30대 유튜버가 검찰에 넘겨졌다.

경기북부경찰청 사이버수사1대는 정보통신기본법 및 정보통신망법, 자본시장법 위반 등 혐의로 30대 A씨를 검찰에 구속 송치했다고 2일 밝혔다.

A씨는 지난해 10월부터 두 달 동안 AI로 만든 허위 영상물 54개를 제작, 자신이 만든 유튜브 채널 ‘경찰24시’ 등에 유포한 혐의를 받고 있다. 문제의 영상은 ‘중국인 난동 체포 영상’, ‘부천역 인터넷 BJ(인터넷방송인) 체포 영상’ 등이며, 출동한 경찰이 과잉 진압하는 모습과 테이저건을 사용하는 내용 등이 담겼다.

A씨의 채널 소개 글에는 '실제 경찰과 무관하며 실화 바탕 각색 AI'라고 표시했지만, 개별 영상에는 AI로 만든 가짜 영상이라는 알림이 없었고 AI 제작 영상을 표시하는 워터마크를 지우기도 했다. 이런 것들이 유튜브뿐만 아니라 인스타그램, 틱톡, 페이스북 등에 짧은 영상(쇼트폼) 형태로 유포되며 총 3,000만이 넘는 조회 수를 기록했다.

이들 영상은 대부분 챗GPT나 그록 등 생성형 AI로 만들어졌는데, "초반에 만든 영상은 상당히 어설펐지만, 시간이 지날수록 영상의 질이 향상됐다"고 경찰 측은 전했다. 경찰은 일부 영상에 광고가 포함된 점 등에서 A씨가 영리 목적으로 영상을 제작한 것으로 봤다. 영상을 본 일부 시민은 이를 진실이라고 믿고 경찰에 항의하는 일도 벌어진 것으로 전해졌다.

A씨는 지난해 해외 선물 투자 리딩방 운영에 가담해 회원의 투자 손실을 유도하고 자신은 3,000만 원 상당의 부당 이득을 챙기며 AI 음란물을 제작·판매한 혐의도 받고 있다. 경찰 조사에서 A씨는 “해시태그 등에 ‘AI 영상물’이라고 표기했으며, 영리 목적도 아니다”라고 혐의를 부인한 것으로 전해졌다.

경찰 관계자는 "피의자가 다른 허위 영상물을 제작·유포하면 더 큰 추가 피해가 발생할 수 있기 때문에 구속 수사를 결정했다"며 "이 같은 영상이 공권력에 대한 국민의 신뢰를 훼손한다는 판단도 있었다"고 밝혔다.

임명수 기자 sol@hankookilbo.com