오세훈 “딥페이크 삭제 지원 주체, 국가에서 지자체로 확대해야”

오세훈 서울시장이 지난 8월 류희림 방송통신심의위원장과 ‘딥페이크 영상물 삭제 지원을 위한 업무협약’을 체결했다. 서울시 제공

오세훈 서울시장이 딥페이크(불법합성물) 삭제 지원의 주체를 국가에서 지방자치단체로 확대하는 법령 개정을 촉구했다.

오 시장은 3일 여의도 국회의원회관에서 열린 딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책토론회에 참석해 이같이 밝혔다. 이번 토론회는 국회의원 조은희 의원실과 한국여성인권진흥원이 주최하고 이수정 경기대 범죄심리학과 교수, 함영욱 경찰청 사이버범죄수사과장 등이 발제를 맡았다.

오 시장은 “최근 인공지능(AI)으로 특정 인물의 얼굴에 음란물(성착취물)을 합성한 딥페이크 영상이 무분별하게 생성 유포되면서 남녀 가리지 않고 피해자들이 생겨나고 있고, 그로 인한 불안감이 사회 전반에 확산되고 있다”며 “현재 전국적으로 피해학교가 400개에서 500개 정도 될 것으로 추산되지만, 딥페이크 특성상 피해자가 피해 사실을 모르는 경우가 많다는 점을 고려하면 정확한 피해 규모를 추산하기조차 어렵다”고 말했다.

그러면서 “이번 달부터는 중‧고등학교를 대상으로 딥페이크 예방교육을 운영하는 등 예방부터 재발방지에 이르는 통합지원체계를 구축할 계획”이라며 “얼굴 매칭을 통한 에이아이(AI) 딥페이크 검출 기술인 ‘서울 안심 아이(Seoul Safe Eye)’를 개발하고, 검색부터 신고까지 전 과정을 에이아이가 운영하는 ‘에이아이 신고자동화 시스템’도 연내에 구축하겠다”고 말했다

오 시장은 “신속한 피해자 지원을 위해 딥페이크 피해 영상물을 삭제 지원할 수 있는 제도적 장치가 필요한 만큼, 삭제 지원의 주체를 국가에서 지자체로 확대하는 법령 개정을 강력히 촉구할 예정”이라고 밝혔다.

앞서 서울시는 지난달 28일 방송통신심의위원회와 업무협약을 체결하고, 지자체 최초로 피해 신고 24시간 만에 딥페이크 성착취물을 삭제할 수 있는 핫라인 시스템을 가동했다.

허윤희 기자 yhher@hani.co.kr