[단독] 경찰 조사 대상 ‘딥페이크 봇’ 8개 삭제… 온라인·모바일서 얼마든지 이용할 수 있어

전 세계 이용자가 22만명이 넘는 한 텔레그램 딥페이크봇 대화방이 텔레그램 측 조치로 삭제돼 접속이 불가능한 모습. /텔레그램 캡처

딥페이크 성범죄를 조사하는 경찰이 내사에 착수했던 ‘텔레그램 딥페이크 봇’ 8개가 모두 삭제된 것으로 23일 나타났다. 그러나 온라인과 모바일에서는 딥페이크 사진·영상을 만들 수 있는 딥페이크 봇을 얼마든지 이용할 수 있는 상황이다.

딥페이크 봇은 인공지능(AI) 프로그램으로 사용자가 제공한 인물 사진을 나체 사진 등으로 자동 합성해 준다. 이런 딥페이크 봇을 텔레그램 대화방에서 이용할 수 있게 만든 것이 ‘텔레그램 딥페이크 봇’이다. 보안 기능이 있는 텔레그램을 통해 적발을 피하려는 것이다.

이날 조선비즈 취재를 종합하면 경찰이 조사 대상으로 지목한 텔레그램 딥페이크 봇 8개는 최근 전부 삭제됐다. 방송통신심의위원회(방심위) 관계자는 “경찰 측 요청에 따라 8개 딥페이크 봇을 심의한 결과 국내법 위반 요인이 있음을 확인했다”면서 “이에 따라 텔레그램 본사 측에 해당 딥페이크 봇들 삭제를 요청했고 최근 8개 전부 삭제된 것을 확인했다”고 말했다.

23일 구글 검색으로 찾은 텔레그램 딥페이크 봇. 언어를 고르고 사진을 업로드하면 나체 사진으로 만들어 준다고 안내하는 등 정상 작동 중이었다. /텔레그램 캡처

그러나 딥페이크 봇을 이용한 성범죄 통로는 여전히 열려 있다. 구글에 영어로 ‘텔레그램 딥페이크 봇(telegram deepfake bot)’을 검색하면 수많은 텔레그램 링크가 나온다. 합성 수준이 높은 딥페이크 봇들을 선별해서 아예 리스트를 만들어둔 해외 게시물도 있다.

또 하루에 만들 수 있는 딥페이크 콘텐츠 개수를 제한해 놓고, 일정 금액을 내면 매일 무한정 이용 가능하다며 결제를 유도하는 딥페이크 봇도 있다. 영어는 물론 프랑스어, 독일어, 중국어, 일본어 등 세계 여러 언어를 지원하기도 한다.

경찰은 아직 작동 중인 텔레그램 딥페이크 봇을 파악하는 대로 방심위에 차단 심의 요청을 넣고 있다고 한다. 방심위 관계자는 “경찰이 최초에 (차단 심의를) 요청했던 8건 이외에 추가 요청 건에 대해서도 심의 및 삭제 요청을 진행 중이다”라고 했다.

성폭력범죄의 처벌 등에 관한 특례법(성폭력처벌법) 제14조의2에 따르면 딥페이크를 비롯한 허위 영상물 등을 제작·반포하면 5년이하 징역이나 5000만원이하 벌금에 처할 수 있다.

- Copyright ⓒ 조선비즈 & Chosun.com -