"국내 유해 콘텐츠 제재"…인터넷 방송인, 해외 플랫폼으로 옮겨 활동

규제 사각지대 해외 플랫폼 "자율규제 강화해야"

(서울=뉴스1) 손엄지 기자 = #수위 높은 욕설과 혐오표현을 서슴지 않았던 한 인터넷 진행자는 아프리카TV로부터 몇 번의 경고 끝에 영구 정지를 당했다. 해당 진행자는 플랫폼을 유튜브로 옮겨 자극적인 방송을 진행해 오고 있다.

아프리카TV가 유해 콘텐츠 제재를 강화하자 인터넷 방송인들이 해외 플랫폼으로 옮기는 경우가 늘어나고 있다.

국내 플랫폼 뿐만 아니라 해외 플랫폼의 유해 콘텐츠 관리·감독 의무를 강화해야 한다는 주장이 나온다.

19일 정보기술(IT) 업계에 따르면 아프리카TV(067160)는 사전·사후 통합프로세스로 유해 콘텐츠를 차단하는 프로세스를 운영하고 있다.

BJ가 라이브 스트리밍을 진행하기 전 유의 사항을 교육하고, 주의점을 알린다. 또 클린 콘텐츠 조성 캠페인을 진행해 유해 콘텐츠 사전 대응 시스템을 구축했다

모니터링팀을 상시 운영하고 음란물을 차단하는 '태권S', 욕설 채팅을 차단하는 '태권A' 등 자체 인공지능(AI)을 활용해 유해 콘텐츠 필터링을 시행하고 있다.

아프리카TV에서 부적절한 콘텐츠를 진행한 BJ는 ‘운영정책’에 근거해 일시·영구 정지 등 조치를 하고 있다. 유해 콘텐츠를 진행할 위험이 있는 BJ는 정기 교육을 실시하고, 지속적인 미팅으로 경각심을 심어주고 있다.

문제는 해외 플랫폼이다.

유튜브는 커뮤니티 가이드라인에 따라 유해 콘텐츠를 차단하지만 자세한 기준 설명은 없다.

방대한 콘텐츠의 양 때문에 AI에 의지한 필터링을 진행할 수밖에 없는데, 특정 단어가 포함되거나, 과거 유해 콘텐츠와 비슷한 이미지를 차단하는 정도다.

특히 전 세계에서 진행되는 라이브 스트리밍 콘텐츠를 모니터링하기엔 인력이 부족해 즉각적인 대응이 어렵다.

라이브 스트리밍 중 유해 콘텐츠를 제재하고 있다고 밝히고 있지만 이마저도 시청자들의 신고가 일정 횟수 이상 진행되고 난 이후의 사후 조치로 한계가 있다.

유해 콘텐츠를 진행하더라도 처음은 경고에 그치고, 최초 경고로부터 90일 이내에 위반사항이 발생해야 2주일 정지가 진행되는 등 원론적 조치에 그친다는 지적이 나온다.

일부 유튜버들은 여러개 계정을 사용해 한 채널이 제재당하더라도 다른 채널에서 라이브 스트리밍을 진행한다.

느슨한 규제를 교묘히 피해 부적절한 콘텐츠를 진행할 수 있다.

틱톡 역시 스트리밍 중 음주를 하면 경고, 누적 시 후원 중단까지 다양한 규제를 두고 있지만, 유저들은 새 계정을 계속 만드는 방식으로 제재를 우회하고 있다.

일부 인플루언서들은 아예 처음부터 부계정을 같이 운영하며 '여기서 정지되면 부계정으로 오라'고 홍보할 정도다.

이 때문에 국내 플랫폼뿐 아니라 해외 플랫폼들의 관리·감독 의무를 더 강화해야 한다는 주장에 힘이 실리고 있다.

실시간 모니터링 24시간 유지, 라이브 스트리밍을 통해 진행되는 유해 콘텐츠의 경우 일정 시간 내 차단, 유저 신고가 누적될 경우 콘텐츠에 대한 블라인드 조치 등 구체적인 자율 규제 시스템 마련이 필요하다는 것이다.

업계 관계자는 "특정 플랫폼만 엄격한 규제 제도를 운영하는 것만으로는 유해 콘텐츠를 근절하기 어렵다"며 "해외 플랫폼들도 실시간 콘텐츠 모니터링에 더해 즉각적으로 부적절한 콘텐츠를 제재할 수 있는 장치가 필요하다"고 말했다.

eom@news1.kr