정부, 딥페이크 모니터링 ‘자동화’ 추진…텔레그램 핫라인 구축

진보당원들이 지난 27일 서울 서대문구 경찰청 앞에서 텔레그램 딥페이크 성범죄 경찰 수사 촉구 기자회견을 하고 있다. 김창길 기자

정부가 확산하는 딥페이크(인공지능 기반 가짜 이미지 합성 기술) 성범죄 대응을 위해 텔레그램 등 글로벌 온라인 플랫폼 사업자들과 협의체를 구성하고, 신속한 영상 삭제·차단에 나서기로 했다. 허위 영상물을 빠르게 탐지해 삭제를 요청할 수 있도록 모니터링 ‘자동화’도 추진한다.

방송통신심의위원회(방심위)는 28일 서울 양천구 방송회관에서 긴급 전체회의를 열고 딥페이크 성범죄 영상물 종합 대책을 논의했다. 국내 주요 포털사이트, 텔레그램·페이스북·엑스(구 트위터)·인스타그램·유튜브 등 해외 사업자와 협의체를 구성해 신속한 삭제·차단 조치와 자율적인 규제를 강력히 요청할 계획이다. 해외에 서버가 있는 플랫폼 중 국내 공식 협의체가 없는 사업체의 경우 대면 협의 채널을 만들기로 했다.

류희림 방심위원장은 “전자 심의를 강화해 24시간 이내 삭제·차단이 될 수 있도록 시정을 요구하고 악성 유포자는 즉각 경찰에 수사 의뢰하도록 하겠다”며 “텔레그램 등 주요 사회관계망서비스(SNS)에 대한 자체 모니터 인원을 2배 이상 늘리고, 집중 모니터링을 통해 불법 성범죄 영상물을 신속하게 적발하겠다”고 했다. 향후 디지털 성범죄 전담인력을 늘려갈 계획도 밝혔다.

디지털 성범죄 영상물의 제작이나 소지·유포 등에 대한 처벌이 미약해 관련 범죄가 확산하고 있다는 지적에 대해 류 위원장은 “보완 입법을 관계기관에 건의하고 관련 전문가들과 협력해, 보완 입법 이전에 할 수 있는 최대한의 심의 규정 보완도 강구하겠다”고 했다.

방심위는 지난 27일부터 홈페이지에 ‘디지털 성범죄 신고(딥페이크 성범죄 영상물)’ 배너를 만들었다. 방심위의 디지털 성범죄 신고 전화인 1377로도 24시간 365일 신고 접수와 상담을 할 수 있도록 했다.

디지털성범죄 삭제지원 시스템 고도화 방안. 과학기술정보통신부 제공

최근 생성형 인공지능(AI) 기술을 활용해 손쉽게 허위 음란영상물을 제작하고, 이들 영상을 SNS를 통해 빠르게 유포할 수 있게 되면서 일반인 대상 디지털 성범죄 피해도 확산하고 있다.

강도현 과학기술정보통신부 2차관과 신영숙 여성가족부 차관도 이날 서울 중구 디지털성범죄피해자지원센터를 방문해 딥페이크 피해 예방 및 피해자 지원 방안에 대해 논의했다.

두 부처는 딥페이크 영상물을 자동으로 탐지하고, 사진 한 장으로도 허위영상물을 추적할 수 있도록 시스템을 고도화하는 방안을 논의했다. 기존에는 다양한 형태로 변형된 합성·편집물을 탐지하는 것이 쉽지 않다 보니 수동으로 삭제 요청과 모니터링을 해야 했다. 시스템을 고도화하면 피해영상물 의심 이미지를 자동 모니터링하고, AI 기반 탐지 기술로 딥페이크 여부를 판별할 수 있다. 피해자 이미지를 기반으로 자동 모니터링을 해 변형된 피해자의 이미지까지 찾아내어 삭제 요청을 자동 통보하는 것이 목표다.

과기정통부·여가부는 지난달부터 ‘이미지 합성 기술(딥페이크) 기반 디지털 성범죄 피해 예방 및 보호방안 마련’ 정책연구를 진행하고 있다. 연구 결과를 기반으로 연말까지 디지털 성범죄 관련 법제 정비 방향과 딥페이크 탐지시스템 구축 방안을 마련할 계획이다.

디지털성범죄피해자지원센터는 365일 디지털 성범죄 피해상담과 피해촬영물에 대한 삭제를 지원하고, 수사 및 무료법률지원도 돕고 있다. 2018년 4월 개소 이후 지난해 말까지 센터를 이용한 피해자가 3만2000여명에 피해촬영물 상담·삭제 등 지원 서비스 제공 건수는 100만4000건에 달한다.

박채연 기자 applaud@kyunghyang.com, 배문규 기자 sobbell@kyunghyang.com