“딥페이크 음란물, 차단해도 85% 뚫려…인공지능 신뢰성 대책 미흡”

[앵커]

방송미디어통신심의위원회가 접속 차단을 요구한 음란물 게시 사이트 85% 이상이 접속 가능한 상태로 방치된 것으로 감사 결과 드러났습니다.

오는 22일부터 시행되는 '인공지능 기본법'을 앞두고 대비 실태를 점검한 건데, 신뢰성 확보 대책이 전반적으로 미흡한 것으로 확인됐습니다.

보도에 서지영 기자입니다.

[리포트]

지난 2024년 11월, 부산 기초의회 의원들의 얼굴을 합성한 딥페이크 음란물이 배포됐습니다.

피해를 당한 구의원만 10여 명, 의원 홈페이지에 공개한 연락처와 신상 등이 범죄 수단으로 악용됐습니다.

이 같은 음란물 피해를 막기 위해 방송미디어통신심의위원회는 음란물 삭제를 요구하거나 접속 차단 조치를 하고 있습니다.

하지만, 감사원 감사 결과 접속 차단을 요구한 음란물 게시 사이트의 85%가 여전히 접속 가능한 상태로 방치되고 있있던 것으로 확인됐습니다.

접속차단시스템에 등재됐지만, 대부분 해외 임시저장 서버를 통한 우회 접속이 가능했기 때문입니다.

채용과 대출 심사 등에 활용되는 '고영향 인공지능'에도 법적 허점이 확인됐습니다.

결과가 단순 참고인 경우에도 사업자에게 과도한 의무를 부과하고, 정작 이로 인해 피해를 입은 당사자에 대한 이의 제기권 등은 보장되지 않았습니다.

안전을 위해 도입된 공공 인공지능 서비스는 학습 데이터가 부실해 탐지 정확도가 크게 떨어졌습니다.

실제로 지능형 CCTV는 '어깨동무'를 '싸움'으로 오인해 탐지 정확도가 12~52%대에 불과한 것으로 나타났습니다.

이번 감사는 오는 22일 인공지능 기본법 시행을 앞두고 공공부문 활용 실태를 실증적으로 분석한 첫 사례입니다.

감사원은 과기정통부에 보완대책을, 방송미디어통신심의위원회 등에는 딥페이크 차단목록 송수신 절차를 개선할 것을 각각 통보했습니다.

KBS 뉴스 서지영입니다.

영상편집:이인영

■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 카카오 '마이뷰', 유튜브에서 KBS뉴스를 구독해주세요!

서지영 기자 (sjy@kbs.co.kr)