'딥페이크 탐지' AI 입는 디성센터…인력 2배 늘리고 24시간 상담

여가부 '디성센터' 중심으로 딥페이크 대응책 마련
신고창구 '1366'으로 일원화…충분한 예산 확보 과제

ⓒ News1 양혜림 디자이너

(서울=뉴스1) 오현주 기자 = 여성가족부가 딥페이크(인공지능(AI)으로 만든 가짜 이미지 합성 기술) 범죄 근절을 위해 디지털 성범죄 피해자 지원센터(디성센터)의 역할을 강화한다. 삭제 지원 인력을 2배로 확대하고 24시간 상담을 진행한다. 또 AI 기반 딥페이크 탐지 기술을 도입해 빠르게 불법 합성물을 삭제 지원할 예정이다.

7일 정부 부처 등에 따르면 여가부가 6일 발표한 딥페이크 성범죄 강화 대응 방안에는 디성센터의 역할을 키우려는 장기적 방안이 대거 담겼다.

삭제 담당 인력 18→33명 확대…AI로 딥페이크 판별·삭제 요청 자동화

대표적으로 디성센터 내 삭제 지원 담당 인력을 18명에서 33명으로 늘린다.

지난해 디성센터 직원 1명당 1만 5000건 이상의 불법 영상 삭제를 지원한 만큼, 업무가 너무 가중된 점을 고려했다. 같은해 디성센터에 요청된 삭제 지원 건수는 24만 3607건으로, 2021년 대비 무려 46% 급증했다.

디성센터는 24시간 상담 체제로 개편한다. 현재는 오전 8시부터 오후 10시까지 상담을 운영하고 있다. 정부는 추후 상담 인력 확충도 검토하고 있다.

디성센터는 AI를 활용해 딥페이크 탐지 및 삭제 요청을 자동화하는 시스템도 활용한다. 과학기술정보통신부와 협력해 내년부터 도입한다.

AI가 사진 한 장 또는 짧은 영상만으로 딥페이크 여부를 판별하고 증거 수집, 삭제 요청, 삭제 여부 모니터링까지 자동으로 하는 체계가 구축된다.

노현서 여가부 디지털 성범죄 방지 과장은 "현재 센터에서는 삭제지원 시스템 2.0 버전을 운영하고 있는데 이 기술로 딥페이크를 탐지하는 데 한계가 있다"며 "사진 한 장으로 변형이 많이 되는 딥페이크 영상물을 잡기 어려워, 피해자 사진 한 장으로도 추적할 수 있는 시스템으로 고도화할 예정"이라고 말했다.

기존 디성센터 내 삭제 담당 직원 18명이 특정 영상물이 딥페이크 영상인지 직접 보고 수동으로 판별했다. 센터가 보유했던 AI 기술은 주로 불법 촬영물을 추적하고 판독하는 데 쓰여서다.

직원들은 영상 삭제를 위해 플랫폼 사업자에게 매번 삭제 요청 메일 또는 종이 공문을 보내야 했다.

'디성센터' 접수 창구 1366으로 '일원화'…신고 전용 사이트도 마련

디성센터는 삭제 지원 기술뿐만 아니라 접근성 역시 강화된다. 정부는 전국 디지털성범죄 피해자 지원기관의 신고 전화번호를 '여성 긴급 전화'와 동일한 '1366'으로 일원화하기로 했다.

현재 디성센터로 연락할 수 있는 번호는 무려 5개다. 서울 소재 중앙 디성센터와 지차제별 디지털 성범죄 피해자 지원기관(서울·경기·인천·부산)이 각각 다른 번호를 쓰고 있어서다. 이에 정부는 누구나 위기 상황에서 바로 상담을 받도록 신고 창구를 하나로 합쳤다.

여가부는 "현재 디성센터 번호와 지역 (성범죄 피해) 지원기관 및 상담소 번호가 각각 달라 피해를 입으면 어디로 연락할지 매번 찾아봐야 한다"며 "국민들에게 신고 번호를 1366으로 일원화하는 점이 큰 변화로 다가올 것"이라고 말했다.

동시에 딥페이크 신고 접수 전용 홈페이지도 마련한다. 딥페이크로 의심되는 영상물을 발견한 누구나 신고할 수 있도록 돕기 위해서다.

디성센터 설립 6년 만에 법적 근거 마련…피해자 신상 정보도 삭제 지원

센터의 법적 권한도 강화된다. 대표적으로 9월말 성폭력 방지법이 개정되면서 설립 6년 만에 설치 근거가 마련됐다.

과거 성폭력 방지법에는 디성센터가 불법 영상물 삭제를 요청할 수 있다는 내용이 있었으나 센터의 설치 근거를 규정한 조항이 없었다. 이러한 입법 공백 때문에 센터가 해외 플랫폼 업체에 삭제 요청을 할 때 실제 권한이 있는지 의심을 받는 경우가 많았다.

센터는 아동·청소년 성착취물이나 수사기관 연계 피해영상물은 신고 없이 먼저 삭제 지원할 수 있게 됐다. 피해자 신상 정보 역시 삭제 가능해졌다.

정부는 장기적으로 디성센터를 디지털 성범죄 종합 대응센터로 키우겠다는 계획도 있다.

다만 디성센터의 역할 강화를 위해서는 충분한 예산 확보가 과제로 꼽힌다. 김남희 더불어민주당이 여가부로부터 받은 '2025년도 예산안 및 기금운용 계획안 설명자료'에 따르면 디성센터 전문성 강화 예산은 1억 8500만 원으로 올해 본예산과 동일한 수준이다.

이와 관련해 여가부 측은 "현재 구체적인 수치를 말하기 어렵다"며 "추후 기획재정부와 국회 예산안 심의 과정에서 논의하겠다"고 말했다.

woobi123@news1.kr