서울시-방심위, 딥페이크 삭제 지원 ‘핫라인’ 구축

최근 첨단 기술로 불법합성물을 만드는 ‘딥페이크 공포’가 전국을 덮치면서 서울시가 방송통신심의위원회(방심위)와 딥페이크 영상물 삭제 지원을 위한 업무협약을 28일 체결했다. 이날 업무협약은 미성년자에까지 피해가 번져가는 사안의 심각성을 고려해 당일 결정돼 전격적으로 이뤄졌다. 딥페이크 성범죄물이 주로 유통되는 텔레그램과도 협의체를 추진 중인 방심위는 이날 서울시를 시작으로 지방자치단체와 협업을 늘려갈 것이라고 밝혔다.

이날 오후 4시 서울시청 6층 시장실에서 진행된 협약식에는 오세훈 서울시장과 류희림 방심위 위원장이 참석했다. 협약 내용의 핵심은 서울시와 방심위가 디지털 성범죄물 삭제지원을 위해 24시간 ‘핫라인 시스템’을 구축한다는 것이다. 이를 위해 서울시는 기존에 운영해오던 디지털성범죄안심지원센터를 활용해 방심위의 삭제요청에 즉각 대응하고 24시간 운영하는 120다산콜센터를 통해 접수된 피해 신고도 방심위와 즉각 공유하기로 했다.

서울시는 이같은 ‘핫라인’이 개설되면 삭제가 빠르게 이뤄질 것이라고 기대했다. 기존에는 디지털성범죄안심지원센터에 들어온 신고를 방심위에 삭제 요청할 때마다 각종 증빙자료를 제출해야 해 삭제까지 시간이 걸렸다.

오 시장은 “딥페이크 특성상 가해자 특정이 어렵고 누구나 피해자가 될 수 있으며 특히 폐쇄형 소셜미디어(SNS)에서의 삭제가 어려워 공포감이 더욱 큰데, 오늘부터 방심위와 함께 24시간 내에 딥페이크를 삭제하는 시스템을 구축하겠다”고 말했다.

서울시는 급증하는 딥페이크 범죄에 대응하기 위해 카카오톡 오픈채팅방에 ‘딥페이크 SOS 전담 상담창구’도 개설하고 피해지원관 2명도 배치할 계획이다. 또 내년에는 인공지능을 기반으로 한 딥페이크 검출 기술인 ‘서울 안심 아이’를 개발해 원본 사진과 딥페이크를 구분해 검출할 수 있도록 할 계획이다.

류희림 방심위원장은 이날 “방심위가 텔레그램에 딥페이크와 관련해 삭제를 요청한 경우 90% 이상 삭제됐다”며 “앞으로 서울시를 시작으로 지자체들과 협력을 강화하겠다”고 말했다.

글·사진 임지선 기자 sun21@hani.co.kr