오세훈 "7초 만에 딥페이크 제작…지자체 '삭제 지원' 주체 돼야"

오 시장, 딥페이크 토론회서 "서울시도 제도적 장치 필요"
"얼굴 매칭 통한 검출 기술 개발…사적 제재 자제 부탁"

(서울=뉴스1) 오현주 기자 = 오세훈 서울시장이 딥페이크(AI 기반 이미지 합성 기술) 불법 합성물 삭제 지원의 주체가 국가에서 지방자치단체(지자체로) 확대하도록 법령 개정을 촉구했다.

오 시장은 3일 오전 서울시 여의도 국회에서 열린 '딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책 토론회'에 참석해 "딥페이크 성범죄는 이전과는 다른 범죄 양상인 만큼 서울시에서도 딥페이크 피해 영상물을 삭제 지원 할 수 있는 제도적 장치가 필요하다"며 이같이 밝혔다.

일명 '딥페이크 범죄'는 딥러닝(deep learning·심층학습)과 가짜(fake·페이크)를 합친 말이다. AI 기술을 활용해 만든 진짜 같은 가짜 콘텐츠다.

최근 'AI 소라'(텍스트 기반 영상 생성 기술) 같은 여러 생성형 AI와 딥페이크 앱이 등장하면서 딥페이크 범죄 규모는 급증하고 있다.

오 시장은 "AI로 특정 인물의 얼굴에 음란물을 합성한 딥페이크 영상이 무분별하게 생성 유포되면서 남녀 가리지 않고 피해자들이 생겨나고 있고, 불안감이 사회 전반에 확산되고 있다"며 "딥페이크 영상은 제작까지 단 '7초' 밖에 걸리지 않고, 제작부터 유포까지 너무나 쉽게 가담할 수 있는 구조라 누구나 피해자가 될 수 있다"고 지적했다.

이어 "이번 사태의 경우 해외에 서버를 둔 텔레그램 특성상 가해자를 특정하기 어려워서 수사도 힘든 상황"이라며 "현재 전국적으로 피해학교가 400개에서 500개 정도 될 것으로 추산되고는 있지만, 딥페이크 특성상 피해자가 피해 사실을 모르는 경우가 많다는 점을 고려하면 정확한 피해 규모를 추산하는 것조차 어렵다"고 강조했다.

그러면서 "서울시장이자 이 사회의 어른으로서 피해자를 충분히 보호하지 못했다는 생각에 마음이 무겁다"며 "앞으로 서울시는 딥페이크 피해자 보호와 지원을 위해 할 수 있는 모든 노력을 다하겠다"고 덧붙였다.

서울시는 딥페이크 범죄가 잇따르자 지난달 28일 방송통신심의위원회와 함께 지자체 최초로 피해 신고 24시간 만에 삭제할 수 있는 핫라인 시스템을 가동한 바 있다.

서울시 자체 AI 기반 딥페이크 예방 기술도 개발한다. 그는 "얼굴 매칭을 통한 AI 딥페이크 검출 기술인 '서울 안심 아이'를 개발하고, 검색부터 신고까지 전 과정을 AI가 운영하는 'AI 신고자동화 시스템'도 연내 구축할 것"이라며 "서울시는 지난해 전국 최초로 AI로 피해 영상물을 24시간 자동 추적‧감시하고 삭제하는 기술을 개발해 성착취물을 찾아내는 데 걸리는 시간을 평균 2시간에서 3분으로 획기적으로 단축하기도 했다"고 설명했다.

오 시장은 엉뚱한 사람이 가해자로 지목되는 일명 '사적 제재' 논란을 둘러싼 우려도 드러냈다. 그는 "딥페이크 가해자에 대한 사적 제재 움직임이 확산되고 있는데, 또 다른 무고한 피해자가 발생하지 않도록 자제해주시기를 부탁드린다"고 말했다.

woobi123@news1.kr