"텔레그램과 핫라인 구축한다"…방심위, 딥페이크 성범죄물 종합대책 발표

방심위, 딥페이크 성범죄 영상물 10대 종합대책 발표
모니터링·시정요구·수사의뢰, 3단계 조치 강화
국내외 플랫폼과 협의체 구성…텔레그램 집중관리
대통령 관심에 과잉규제 나올까 우려 목소리도

[이데일리 임유경 기자] 인공지능(AI)을 활용한 딥페이크 성범죄 영상물 제작을 원천 차단하기보다 신속히 삭제·차단하는 것이 낫다는 진단에 따라 방송통신심의위원회가 텔레그램 등 국내외 온라인 플랫폼 업체들과 협의체 구성에 나섰다. 이를 통해 성범죄물 삭제·차단이 24시간 이내 이뤄지는 신속 대응 체계를 구축하겠다는 구상이다.

류희림 방송통신심의위원장이 28일 오전 서울 양천구 방송회관에서 전체회의를 주재하고 있다.(사진=뉴스1)

방심위는 28일 최근 딥페이크 성범죄 영상물로 인한 사회적 우려가 높아짐에 따라 ‘딥페이크 성범죄영상물 10대 종합대책’을 마련했다고 밝혔다. 이번 종합대책에서 방심위는 모니터링 인력을 2배로 늘린 ‘집중화 모니터링’을 통해 딥페이크 주요 유통경로를 신속히 파악하고 △소셜미디어(SNS) 대상 중점 모니터링 △24시간 내 시정요구 △즉각 수사의뢰 등 ‘강화된 3단계 조치’ 체계를 마련했다. 이 같은 체계를 원활히 운영해 피해를 신속하게 구제하겠다는 방침이다.

방심위는 온라인 플랫폼들의 협조가 필요한 만큼 국내 주요 포털사이트는 물론 글로벌 사업자들도 참여하는 협의체를 구성할 계획이다. 특히 딥페이크 성범죄물 주요 유통 수단이 된 텔레그램에 대해서는 직접 상시 협의할 수 있는 핫라인을 확보하기로 했다. 또 텔레그램을 시정요청 협력 대상 업체에 공식 등재해 자율 삭제도 유도할 방침이다. 텔레그램은 그동안 국내 서버가 없어 규제 사각지대에 있었다. 기타 해외 플랫폼 11개에 대해서도 성범죄영상물의 자율적·근원적 삭제를 유도하는 등 시정요청 협력 대상에 대한 관리도 강화하기로 했다.

방심위는 텔레그램을 통한 딥페이크 허위영상 유통이 전세계적 문제인 만큼 글로벌온라인안전규제기관네트워크(GOSRN)를 비롯한 해외 유관기관·국제협의체에 위원장 명의의 서신을 발송해 텔레그램 문제를 의제화하는 등 국제 여론 형성에도 적극 동참할 예정이다.

이밖에도 홈페이지에 딥페이크 성범죄 영상물 신고 전용 배너를 설치하고, 디지털 성범죄 신고 전화(1377) 기능도 강화해 상담원이 직접 24시간 365일 상담하도록 했다. 또 전국 초중고교 1만1000여 곳에 디지털 성범죄 대응 정보를 제공하고 필요 시 방심위 실무자가 현장 교육을 나가기로 했다.

류희림 방심위원장은 이날 긴급 소집한 전체 회의에서 “방심위는 종합대책을 확정하고 심각한 위협 퇴출을 위해 총력을 다할 것”이라고 말했다.

일각에선 딥페이크 범죄에 대한 대응이 자칫 온라인 플랫폼 과잉규제로 이어질까 우려하고 있다. 국회 과학기술정보방송통신위원회 소속 이준석 개혁신당 의원은 이날 전체회의에서 딥페이크 성범죄 확산과 관련 과잉규제 가능성을 우려하며 “반농담식으로 ‘학교폭력을 없애는 방법은 학교를 없애는 것’이라고 한다. 기술적으로 말이 되는 제안이 나와야 할 것 같다”고 말했다.

임유경 (yklim01@edaily.co.kr)