“딥페 원하는 여자 사진 보내”…1달러 내자 5초만에 뚝딱

딥페이크기술을 사용해 불법합성물을 만들어주는 텔레그램 대화방. 한 대화방에서는 "좋아하는 여자의 사진을 보내 시작하라"고 홍보했다. 텔레그램 캡처

여성의 얼굴 사진에 음란물을 합성하는 ‘딥페이크 성착취물’이 급속도로 확산하면서 강력한 대책 마련을 요구하는 목소리가 커지고 있다. 경찰과 교육 당국은 부랴부랴 강력 대응을 예고했지만 범죄를 근절하기는 어렵다는 지적이 나온다. 딥페이크 음란물 유통망이 이미 곳곳에 독버섯처럼 번져 있기 때문이다. 텔레그램에서 장당 600~1000원 정도만 내면 수초 만에 불법 합성물을 제작해주는 대화방이 성행하고 있다.

27일 텔레그램 일부 대화방에서는 요구 금액을 결제한 뒤 특정 얼굴 사진을 올리면 불과 5초 만에 불법 합성물을 내려받을 수 있었다. 한 대화방은 참가자가 28만명이나 됐다. 대화방에선 실제로 제작된 불법 합성물도 쉽게 찾아볼 수 있었다. 한 참가자는 일반인 사진을 올리며 합성이 가능한지 문의하기도 했다. 이 방에선 수시로 ‘딥페이크를 원하면 DM(다이렉트 메시지)을 보내’라는 문구와 영상물을 제작해주는 홈페이지 주소(URL)가 올라왔다.

이 주소를 클릭하자 ‘지금 바로 좋아하는 여자의 사진을 보내라’는 메시지와 함께 결제창이 생성됐다. 사진 한 장 가격은 1다이아(0.49달러, 약 650원)로, 10다이아 단위로 결제할 수 있다. 다이아는 텔레그램 대화방에서 사용하는 결제 단위다. 이용자의 익명성 보장을 위해 다이아는 특정 가상화폐를 통해서만 살 수 있다.

다른 대화방은 ‘AI 합성 로봇이 24시간 운영된다’고 홍보하고 있었다. 미리 제작된 남성, 여성의 딥페이크 음란물 합성 사진이 올라와 있었다. 제작 가격은 장당 3다이아(1.19달러)였다.

손솔(오른쪽 두 번째) 진보당TF 공동단장이 27일 서울 서대문구 경찰청 앞에서 '텔레그램 딥페이크 성범죄 경찰 수사 촉구 및 진보당 TF 강력대응 선포' 기자회견을 열고 구호를 외치고 있다. 윤웅 기자

딥페이크 음란물 제작이 이처럼 손쉽게 이뤄지고 있지만 단속이나 처벌은 제대로 되지 않고 있다. 영리 목적으로 불법 합성물을 배포하면 7년 이하의 징역형이 내려질 수 있다. 하지만 온라인상에서 범죄를 확인해 처벌하기는 쉽지 않은 실정이다. 또 불법 촬영물과 달리 딥페이크 음란물을 내려받거나 시청하는 행위를 처벌할 근거 조항도 없다. 성폭력 범죄의 처벌 등에 관한 특례법 제14조에 따라 딥페이크 음란물을 편집·합성·가공한 사람에 대해서만 5년 이하의 징역 또는 5000만원 이하의 벌금형이 가능하다.

전문가들은 딥페이크 음란물 유통 채널에 대한 규제를 강화해야 한다고 지적한다. 김명주 서울여대 정보보호학과 교수는 “합성물을 생산하는 과정에선 법적 통제가 어렵기 때문에 유포 단계에서 SNS나 빅테크 기업이 책임지고 감시해야 한다”며 “이미 유럽연합(EU) 등은 음란물 유통과 관련해 플랫폼 기업에 일정 책임을 묻는 법안을 마련했다”고 말했다.

경찰과 교육 당국도 부랴부랴 특별 점검에 나섰다. 경찰청은 28일부터 7개월간 딥페이크 성범죄 근절을 위한 특별 집중 단속에 나선다. 대상이 아동이나 청소년일 경우 청소년성보호법을 적용해 엄격하게 대응할 방침이다.

또 서울경찰청은 서울시교육청과 함께 28일 ‘스쿨벨’을 발령한다. 스쿨벨은 신종 학교폭력 발생 시 서울시내 학교 1374곳과 학부모 78만명에게 가정통신문이나 앱(애플리케이션)을 통해 범죄를 알리고 예방하는 시스템이다. 안내문에는 딥페이크 성범죄 피해 학생에게 상담과 치료를 제공하고, 가해 사례는 학교폭력으로 간주해 처리하겠다는 내용 등이 담길 전망이다.

교육 현장에선 보다 구체적인 대응 매뉴얼이 필요하다는 지적이 나온다. 서울교사노조 관계자는 “교사들이 딥페이크 범죄에 대응하기 위한 매뉴얼이 없고, 학교 측도 수사 권한을 갖고 있지 않다”고 말했다.

윤예솔 한웅희 기자 pinetree23@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지