감사원 "딥페이크 음란물 사이트 80% 이상 접속 차단 안돼"

'인공지능 대비실태' 감사보고서 발표
'고영향 AI' 분류 기준도 EU 대비 과도
"우회접속 대책 필요" 관련 기관 통보

게티이미지뱅크

정부가 딥페이크(인공지능 기반 가짜 이미지·영상·음성) 음란물 게시 웹사이트에 대한 접속 차단 요구를 지속하고 있지만, 80% 이상이 여전히 접속 가능한 것으로 나타났다.

감사원은 5일 '인공지능 대비실태(신뢰성 확보 분야)' 감사보고서를 공개하고 "정부가 생성형 AI로 만들어진 딥페이크 음란물 게시 웹사이트에 대한 접속 차단 조치를 하고 있음에도, 차단 대상의 85.4%가 미차단되고 있는 실정"이라고 밝혔다. 이는 지난해 방송미디어통신심의위원회(방미심위)가 접속 차단을 요구한 웹사이트 2만3,107개 중, 감사원이 무작위로 1,000곳을 추출해 점검한 결과다.

감사원에 따르면 1,000개의 점검 대상 웹사이트 가운데 854개 웹사이트가 1~3개 통신망을 통해 접속 가능한 것으로 나타났다. 854개 웹사이트 가운데 약 20%(173개)는 차단 지정 내용을 알리는 이메일이 스팸 처리되거나, 메일 서버 오류 상태인 것으로도 드러났다. 접속 차단 통보조차 제대로 이뤄지지 못했단 얘기다. 경찰청 신고 기준 2022년 160건이던 딥페이크 음란물 피해가 지난해 1,202건으로 7.5배가량 늘어나는 등 피해가 확산되고 있음에도 실질적 차단 효과가 크지 않다는 게 감사원 지적이다.

이 같은 현상은 주로 해외 법인이 운영하는 웹사이트에서 도드라진 것으로 나타났다. 국내 법인 운영 사이트 음란물 삭제 명령은 그나마 이행률이 높지만, 해외 법인 운영 사이트의 경우 원본 서버가 해외에 있을 경우 우회접속 서비스 기법인 ’CDN(Content Delivery Network)’을 통해 접속이 가능해 접속 차단 조치 실효성이 낮은 실정이라는 게 감사원 설명이다.

이에 감사원은 방송미디어통신위원회에 딥페이크 음란물 접속 차단이 미흡하다는 지적과 함께 “해외 임시 저장 서버를 통한 우회접속 문제 해결을 위해 식별 및 차단 기술을 개발하고, CDN 사업자 등과의 국제 공조 강화 방안을 마련하라”고 통보했다. 감사원은 방미심위에도 “접속 차단 대상 URL 등록 누락 방지를 위해 차단 목록 송수신 절차를 개선하고, 실사 및 사후 점검 강화 방안을 마련하라”고 통보했다.

감사원은 이 밖에도 ①고영향 ②생성형 ③일반으로 분류되는 AI들 가운데 ‘생명, 신체 안전 및 기본권에 중대한 영향을 미치거나 위험 초래 우려가 있는 인공지능시스템’으로 규정한 '고영향 AI' 분류 기준이 실제 활용 방식을 반영하지 못하고, AI 제품 검·인증 체계도 미비하다고 지적했다. 특히 채용이나 대출 현장에서 AI를 통해 당락이 구분되는 경우, AI의 영향을 받는 자에 대한 이의 제기권 등이 보장돼 있지 않은 점이 제도의 그늘이라고 꼽았다.

이에 감사원은 과학기술정보통신부 장관에게 “AI의 실제 활용 양태에 따라 고영향 AI가 분류될 수 있도록 ‘인공지능 기본법’ 해석 기준을 마련하고, 고영향 AI 사업자들의 책무 규정에 실제 영향을 받는 자에 대한 보호 방안 수립 및 운영 의무 등을 포함하라”고 통보했다.

김형준 기자 mediaboy@hankookilbo.com