미성년자 연예인 얼굴도 훔쳐… 늘어나는 딥페이크 음란물 배포

AI(인공지능) 기반으로 얼굴 등을 합성하는 딥페이크(Deepfake) 기술로 성적 허위영상을 만들어 배포하는 범죄가 해마다 늘고 있다.

9일 국회 과학기술정보방송통신위원회 김병욱 국민의힘 의원이 방송통신심의위원회(이하 방심위)에서 제출받은 자료에 따르면, 최근 3년간 방심위가 성적 허위영상물을 심의해 시정 요구한 건수가 총 9006건에 달했다.

연도별로는 2020년 6월부터 473건, 2021년 1913건, 2022년 3574건이었으며, 올해는 8월 기준 3046건으로 해마다 크게 증가하고 있다.

경찰청이 김 의원에게 제출한 자료에 따르면 경기북부경찰청 남양주북부서에서는 2021년 8월 5일부터 16일까지 소셜미디어(SNS)에 공개된 여성들의 프로필 사진을 이용해 타인의 알몸 사진과 합성한 허위제작물을 만들어 해외 사이트에 유포한 피의자가 구속됐다.

또 제주경찰청 사이버범죄수사대에서는 2020년 8월부터 2022년 10월까지 해외 구독형 사이트에서 월 30달러(약 4만원)의 구독료를 받고 연예인(미성년자 포함)의 허위영상물 3000여개를 제작해 텔레그램으로 판매한 피의자가 구속됐다.

이밖에 이미지 생성AI 프로그램을 이용해 아동·청소년 성 착취물 360개를 제작·소지한 피의자가 부산경찰청 사이버수사대에 덜미를 잡혀 구속된 사례도 있었다.

'성폭력범죄의 처벌 등에 관한 특례법'에 따르면 반포·판매 등을 할 목적으로 사람의 얼굴, 신체나 음성을 대상으로 한 영상물 등을 대상자 의사에 반해 성적 욕망이나 수치심을 유발할 수 있는 형태로 편집·합성·가공한 자는 5년 이하의 징역 또는 5000만원 이하 벌금형에 처하도록 하고 있다.

김 의원은 "기술이 진보하면서 범죄도 지능화되고 있어 당국이 관련 기술을 신속하게 파악하고 대처할 시스템을 갖춰야 한다"며 "디지털 성범죄에 대한 취업제한, 신상 및 머그샷 공개 등 강력조치도 필요하다"고 말했다.

팽동현기자 dhp@dt.co.k