서울시-방심위, 딥페이크 공동대응… 삭제 '핫라인' 운영

'딥페이크 SOS 전용 상담 창구' 신설
수사·법률 지원 등 피해자 원스톱 지원
AI 딥페이크 검출 '서울 안심 아이' 개발

서울시와 방송통신심의위원회가 24시간 이내에 딥페이크 음란물 영상을 삭제하는 '핫라인'을 가동한다. 지금까지는 서울시 디지털성범죄안심지원센터에서 방심위에 삭제요청 할 때마다 증빙자료를 제출해야 했지만 이제는 시스템 연계를 통해 대량 건수를 일시에 삭제 요청할 수 있다.

이를 위해 오세훈 서울시장과 류희림 방심위원장은 28일 오후 시청에서 이같은 내용을 골자로 한 '딥페이크 음란물 영상 삭제지원 업무협약'을 맺었다.

오세훈 서울시장은 28일 오후 류희림 방송통신심의위원장과 '딥페이크 영상물 삭제 지원을 위한 업무협약'을 체결했다. [사진출처=서울시]

이번 협약의 핵심은 방심위를 통한 영상 삭제와 차단 조치에 소요되는 절차를 간소화하는 데 있다. 폐쇄형 SNS에서 돌던 딥페이크 영상물이 음란사이트나 그 외 SNS에까지 퍼져 피해 신고가 들어올 경우, 24시간 이내에 이를 삭제·차단될 수 있게 조치한다는 내용이다.

이같은 핫라인은 이날부터 가동한다. 서울시는 오픈채팅방에 딥페이크 SOS 전담 상담창구를 개설하고 피해지원관 2명을 배치해 신고 방법과 범죄 채증 방법도 안내한다. 수사·법률지원 등 피해자에게 필요한 지원을 위해 서울디지털성범죄 안심지원센터로도 연결한다. 또 올해 말까지 피해 상황을 24시간 모니터링하면서 자동으로 문제의 영상을 삭제 신고하는 시스템을 구축하기로 했다.

서울시는 AI 기술을 활용해 피해 영상물을 모니터링하고 있는데, 지금은 AI가 모니터링한 내용을 상담원이 삭제 신고하는 방식이다. 앞으로는 서울연구원과 협력해 AI가 영상 검색부터 신고까지 모든 과정을 자동으로 수행하게끔 할 계획이다. 특히 내년에는 AI를 기반으로 한 딥페이크 검출 기술인 '서울 안심 아이(Seoul Safe Eye)'를 개발해 딥페이크와 원본 사진·영상물을 구분해 검출해 나갈 계획이다. 이를 통해 현재는 제작된 기존 영상물이 있어야 유사성을 판별해 유포된 영상물을 찾을 수 있는 것에 비해 획기적으로 피해 영상물을 검출할 수 있을 것으로 서울시는 기대하고 있다.

이밖에 아동 청소년을 대상으로 한 교육도 강화한다. 9월부터 초·중·고교 대상 딥페이크 예방 교육을 50개 학급, 1000명을 대상으로 하기로 했다. 오 시장은 "오늘부터 방심위와 24시간 이내 딥페이크 영상 삭제 핫라인을 구축한다"며 "피해 영상물 삭제를 즉각 지원하고 피해자를 '원스톱' 지원할 것"이라고 말했다.

배경환 기자 khbae@asiae.co.kr