오세훈 “딥페이크 영상물 삭제 지원, 지자체도 가능하게 법 개정”

오세훈 서울시장이 지난달 19일 서울시청 충무기밀실에서 2024년 을지연습 최초 상황 보고를 받고 있다. 정효진 기자

오세훈 서울시장이 3일 최근 사회적 문제가 된 ‘딥페이크 피해 영상물’에 대해 “삭제 지원의 주체를 국가에서 지방자치단체로 확대하는 법령 개정을 강력히 촉구한다”고 말했다.

오 시장은 이날 국회의원회관에서 조은희 국민의힘 의원, 한국여성인권진흥원 주최로 열린 ‘딥페이크 디지털성범죄 예방과 대응책 마련을 위한 정책 토론회’ 축사를 통해 이같이 밝혔다.

오 시장은 “최근 인공지능(AI)으로 특정 인물의 얼굴에 음란물을 합성한 딥페이크 영상이 무분별하게 생성 유포돼 남녀 가리지 않고 피해자들이 생겨나고 있고, 그로 인한 불안감이 사회 전반에 확산하고 있다”고 말했다.

그는 “서울시는 디지털 성범죄의 심각성을 인지하고 2022년에 선제적으로 ‘서울 디지털성범죄 안심지원센터’를 개관해 디지털 성범죄 예방뿐 아니라 피해 영상물 삭제와 피해자 지원까지 원스톱 서비스를 제공하고 있다”며 “서울시는 작년에 전국 최초로 AI로 피해 영상물을 24시간 자동 추적·감시하고 삭제하는 기술을 개발해서 성 착취물을 찾아내는 데 걸리는 시간을 평균 2시간에서 3분으로 획기적으로 단축했다”고 말했다.

오 시장은 “서울시는 딥페이크 성범죄에 신속하게 대응하기 위해 지난달 28일 방송통신심의위원회와 MOU를 체결하고 지자체 최초로 피해 신고 24시간 만에 삭제할 수 있는 핫라인 시스템을 가동했다”며 “신고를 꺼리는 분들이 많을 수 있는 만큼 익명으로 쉽게 상담할 수 있는 ‘디지털성범죄 SOS상담’ 창구도 개설했는데, 벌써 많은 상담이 들어오고 있다”고 말했다.

오 시장은 “얼굴 매칭을 통한 AI 딥페이크 검출 기술인 ‘서울 안심 아이’를 개발하고, 검색부터 신고까지 전 과정을 AI가 운영하는 신고 자동화 시스템도 연내 구축하겠다”라고 했다. 그는 “서울시에도 딥페이크 피해 영상물을 삭제 지원할 수 있는 제도적 장치가 필요하다”며 삭제 지원의 주체를 확대하는 법령 개정을 제안했다.

현재 딥페이크 영상물 피해자는 여성가족부 산하 한국여성인권진흥원 디지털성범죄피해센터나 수사기관 등을 통해 영상물 삭제 지원 요청을 할 수 있다. 방심위는 이들 기관으로부터 요청을 받은 뒤 플랫폼 사업자 등에게 영상 삭제 및 접속 차단 등 시정 요구를 할 수 있게 돼 있다.

윤승민 기자 mean@kyunghyang.com