[단독] 벗방·딥페이크 판치는데… 월 217만명 찾는 스트리밍 플랫폼 ‘치지직’, 유해 콘텐츠 제한 ‘0건’

별도의 로그인이나 성인 인증 없이 시청 가능한 치지직 실시간 콘텐츠. 치지직 플랫폼 캡처

네이버의 인터넷 생방송(스트리밍) 플랫폼 ‘치지직’(CHZZK)이 인공지능(AI)을 활용해 음란 콘텐츠를 적발하기로 했지만, 정작 이를 통해 걸러낸 콘텐츠 건수는 집계조차 되지 않은 것으로 나타났다. 트위치의 한국 철수로 급성장한 치지직은 아프리카TV와 국내 스트리밍 업계에서 점유율 1·2위를 다투고 있지만, 유해 콘텐츠에 대한 모니터링이나 필터링이 미흡하다는 지적이 나온다.

서울신문이 7일 이정헌 더불어민주당 의원실을 통해 네이버에서 제공받은 ‘AI 기술로 적발한 음란 콘텐츠 현황’ 자료에 따르면, 네이버는 “그린아이를 이용한 선정적 콘텐츠 적발 건수를 산출하기 어렵다”고 답했다. 그린아이는 네이버가 자체적으로 개발한 AI 기반 음란 콘텐츠 필터링 기술로 주로 방송을 하고 녹화된 영상을 모니터링하는 것으로 알려졌다. 앞서 네이버는 그린아이가 유해 사진이나 영상을 걸러낼 적중률은 약 99.5%라고 밝힌 바 있다.

AI 기술이 콘텐츠를 정교하게 걸러내는 데 한계가 있는 데도 모니터링 인력은 부족하고 규정을 위반한 사용자에 대한 제재도 무겁지 않다. 치지직이 지난 5월 정식 출범한 이후 네이버 음란물 신고 창구를 통해 신고받은 영상을 게재한 채널 중 ‘이용 제한’ 조치를 받은 채널은 없었다. 숲(SOOP·옛 아프리카TV) 등 다른 스트리밍 플랫폼이 24시간 내내 실시간으로 모니터링하는 부서를 별도로 운영하는 데 반해 네이버는 ‘(치지직) 전담이 아닌 네이버 전체 서비스에서 검토가 필요한 콘텐츠를 모니터링한다’고 밝혔다.

하지만 이날 서울신문이 치지직 플랫폼에 접속해 보니, 신체를 노출하는 이른바 ‘벗방’ 콘텐츠를 대부분 별도의 로그인이나 성인 인증 없이 시청할 수 있었다. 게다가 실시간으로 유해 콘텐츠를 송출한 뒤 스트리머가 이러한 영상을 보관하지 않고 삭제할 경우 치지직에서는 AI가 모니터링해 제지하거나 이용자가 신고하기도 어려운 구조다.

선정적인 논란을 부를 수 있는 콘텐츠 가운데 일부 영상에만 연령 제한이 걸려 있다. 치지직 플랫폼 캡처

반면 음란 콘텐츠 관리가 허술하다는 비판이 제기되자 SOOP은 서버 안에 모든 영상을 일주일 동안 보관하는 시스템을 마련한 상태다. SOOP이 이 의원실에 제출한 자료에 따르면, 지난해 12월부터 지난 8월까지 AI 기술로 적발한 유해 콘텐츠는 총 3만 1308개였다. SOOP의 실시간 모니터링 인력은 지난달 기준 약 100명이다.

이에 대해 네이버 관계자는 “치지직 서비스에 대해 제한적으로 그린아이를 적용 중”이라며 “지속적인 주의를 받는 요주의 스트리머는 지속적으로 모니터링을 하고 있다”고 답했다.

이 의원은 “치지직의 10대 이하 이용자 비율은 무려 38%에 달한다”면서 “스트리밍 방송을 실시간으로 모니터링하는 부서를 통해 부적합한 콘텐츠를 제한할 수 있도록 조치를 취해야 한다”고 밝혔다.

김예슬 기자