정부, ‘딥페이크’에 전면전 선포… ‘실시간 감지·삭제’ ‘유포 플랫폼 규제’

딥페이크 대응 범정부 TF 단장인 김종문 국무조정실 국무1차장이 6일 오후 정부서울청사에서 딥페이크 성범죄 대응 강화 방안을 발표하고 있다. /연합뉴스

정부가 6일 딥페이크 성범죄 근절 대책을 발표했다. 딥페이크 성범죄물이 유포되는 텔레그램과 같은 메신저와 네이버, 메타 등 플랫폼에 대한 관리·감독 등 의무를 강화하고, 이를 제대로 이행하지 않으면 과태료나 과징금을 부과하겠다는 게 핵심 내용이다. 이들에 대한 규제 강화로 딥페이크 성범죄물 유포를 원천 차단하겠다는 것이다. 이는 청소년들이 교사를 상대로 딥페이크 범죄를 저지르기까지 하는 등 심각한 수준에 이르렀다는 지적에 따른 것이다.

국무조정실은 이날 정부서울청사에서 관계 부처 합동으로 이런 내용을 담은 ‘딥페이크 성범죄 대응 강화 방안’을 발표했다.

정부는 최근 대학가와 중고생 등 10대 청소년들 사이에서 딥페이크 관련 영상·사진이 성범죄에 활용되는 등 사회적 문제로 대두되자, 딥페이크 대응 범정부 TF(태스크포스)를 구성해 입법·행정조치를 마련하는 중이다. 앞서 지난 9월 딥페이크 성범죄물 관련 처벌을 강화한 바 있다. 딥페이크 성범죄물을 소지하고, 시청하는 것만으로도 징역 3년 또는 3000만원 이하 벌금에 처할 수 있는 규정을 만들었다. 또 딥페이크 성범죄물을 편집하고 배포할 경우에는 법정형을 기존 징역 5년에서 7년으로 올렸다.

이처럼 정부가 계속해서 딥페이크 성범죄물 대응에 나서는 것은 관련 피해는 계속해서 늘어나고 있기 때문이다. 딥페이크 성범죄 관련 경찰 신고는 올해 10월까지 964건이다. 작년(180건)보다 5배 이상 늘었다. 지난 2021년(156건), 2022년(160건)과 비교하면 올해 급격하게 증가했다. 방송통신심의위에 심의된 건수 역시 2021년 1913건이었는데, 올해는 10월 기준 1만305건에 달했다.

특히 피의자·피해자 중 10대 비중이 높다. 피의자 가운데 10대 비중이 73.6%에 이를 정도다. 스마트폰 등 IT(정보기기)에 익숙하고, 소셜미디어(SNS) 이용 빈도도 잦아 급속도로 확산한 영향이다. 이들은 딥페이크 관련 영상·사진을 제작하고 유포하는 행위가 범죄라는 인식도 부족한 것으로 알려진다.

이에 정부는 딥페이크 성범죄물이 유포되는 플랫폼 사업자에 대한 의무를 강화할 계획이다. 관련 영상·사진이 주로 유통되는 텔레그램 등 메신저와 네이버, 메타 등 플랫폼 사업자를 청소년 유해물 제공·매개자로 해석해 규제한다는 계획이다. 유통 채널에 대한 규제 강화로 확산 경로를 막겠다는 취지다.

정부는 또 메신저와 플랫폼 사업자부터 주기적으로 딥페이크 관련 영상·사진 모니터링과 삭제 결과 등을 담은 보고서도 받을 예정이다. 딥페이크 관련 영상·사진 게재자의 경우 서비스 이용을 중단·탈퇴하는 등의 조치도 추진한다.

정부는 이미 영국, 프랑스 등 해외 국가에서는 플랫폼 사업자에 불법 콘텐츠 관리의무를 부과하고 있다고 밝혔다.

아울러 딥페이크 성범죄물 삭제 요청을 받은 사업자가 24시간 내 이를 삭제하도록 할 계획이다. 인공지능(AI)으로 딥페이크 성범죄물을 실시간으로 감지해 삭제하는 등 자동화 프로그램도 구축한다.

또 성범죄 위장 수사 범위를 성인까지로 확대하는 성폭력처벌법 개정도 추진한다. 현재 성범죄 위장 수사는 아동·청소년 대상 성범죄물 사건으로 한정돼 있다.

이밖에 중대 디지털 성범죄에 대해서는 원칙적으로 피의자를 구속 수사하고, 검찰·경찰의 수사와 단속을 지속해서 강화할 계획이다. 해외 서버 플랫폼을 통해 주로 유포되는 점을 고려해 사이버 범죄 국제 조약인 ‘부다페스트 협약’ 가입으로 유럽연합(EU), 미국 등 76개 국가와 국제 공조 수사 체계도 갖춘다.

‘딥페이크 성범죄 대응 범정부 TF’ 단장인 김종문 국무1차장은 “TF에서 주간 단위로 추진 상황을 지속해서 점검·보완하겠다”며 “이번 대책에 포함된 법안과 예산을 반영하기 위해 각 부처와 함께 국회에 충실히 설명하고, 긴밀히 협의해 나가겠다”고 말했다.