틱톡, 유해 콘텐츠와의 전쟁… 작년 3분기 동영상 1억3600만개 삭제

자동 기술·전담 인력으로 콘텐츠 심사
생성형 AI 콘텐츠엔 ‘라벨’ 부착
정치 계정 제한·허위정보 ‘팩트체크’

글로벌 숏폼 플랫폼 틱톡이 ‘안전한 플랫폼 환경’을 만들기 위한 콘텐츠 심사 방식을 6일 공개했다. 자사 콘텐츠 가이드라인에 기반해 인공지능(AI) 기술과 콘텐츠 심사 인력이 딥페이크, 아동 성착취, 선거 관련 가짜 뉴스 등에 대응하고 있다는 것이다.

양수영 틱톡 동북아 신뢰안전팀 파트너십 매니저./틱톡 제공

틱톡은 이날 ‘안전한 인터넷의 날(Safer internet day)’을 맞아 서울 강남구 삼성동 틱톡코리아에서 ‘미디어 세이프티 워크숍’을 열고 자사 콘텐츠 심사 방식을 공개했다. 안전한 인터넷의 날은 지난 2004년 유럽연합(EU)에서 시작해 현재 전 세계 약 190개국에 도입됐으며, 매년 2월 둘째 주 화요일을 기념일로 지정하고 있다.

틱톡의 콘텐츠 심사 방식은 ‘자동 심사 기술’과 ‘콘텐츠 심사 인력’을 통해 이중으로 이뤄진다. 자동 심사 기술은 AI를 활용해 커뮤니티 가이드라인에 위반되는 텍스트, 비디오, 이미지 등을 다각도로 검토하는 것이다. 유해 콘텐츠로 의심되지만 자동 심사 기술로 걸러내지 못한 콘텐츠는 ‘글로벌 신뢰안전팀’이라고 불리는 콘텐츠 심사 인력을 통해 또다시 검증 받는다.

양수영 틱톡 동북아 신뢰안전팀 파트너십 매니저는 “글로벌 신뢰안전팀은 전 세계 약 4만명 규모로, 24시간 체제로 운영된다”면서 “이들은 기술이 고려하지 못하는 콘텐츠의 맥락, 어감 부분 등을 판단할 뿐만 아니라 이용자 신고가 들어온 콘텐츠나 비정상적으로 증가하는 조회수 등 다양한 위험 신호를 감지한다”고 말했다.

틱톡의 콘텐츠 심사는 자체 구축한 커뮤니티 가이드라인에 기반한다. 가이드라인은 ▲안전 및 시민 의식 ▲정신 및 행동 건강 ▲민감한 성인 테마 ▲진실성 및 진정성 ▲규제 대상 물품 및 상업 활동 ▲개인 정보 보호 및 보안 등 크게 6가지 대주제로 구성됐다. 틱톡은 각국의 규제 기관, 전문가 등의 의견을 수렴해 가이드라인을 제정했다고 설명했다.

틱톡은 청소년 안전 및 복지 부분에 대해 강조했다. 한국에서 틱톡은 만 14세 이상을 대상으로 서비스하고 있고, 미성년자들에게는 세부 연령별로 기본 설정이 제한된다. 예컨대 만 14~15세 이용자의 계정은 비공개로 설정되고, 다이렉트 메시지(DM)는 만 16세 이상부터 허용되는 식이다. ‘세이프티 페어링’ 기능을 통해 부모가 청소년 자녀의 틱톡 계정을 관리할 수도 있다.

특히 틱톡은 아동 성 학대 및 착취 영상에 대해 무관용 원칙을 취하고 있다. 양 매니저는 “청소년에 대한 착취, 신체적·정신적 피해를 유발하는 콘텐츠를 불허하고 있다”면서 “해당 영상이 플랫폼에서 발견되는 즉시 삭제를 하고, 현지 사법·행정 당국에도 신고하고 있다”고 말했다.

틱톡의 청소년 안전 및 개인정보 보호 방안 중 일부 / 틱톡 제공

최근 문제가 되고 있는 딥페이크(deepfake·AI가 만든 가짜 콘텐츠)에는 ‘콘텐츠 라벨’을 부착하는 방식으로 대응하고 있다. 크리에이터가 틱톡의 생성형 AI 편집 툴을 활용하는 경우 해당 콘텐츠에는 라벨이 자동으로 형성된다. 다만, 성착취, 희롱 및 등의 가이드라인 위반사항에 대해서는 라벨이 붙었더라도 삭제 조치를 한다.

오는 4월 총선을 비롯해 주요 국가에서 선거가 예정돼 있는 만큼, 정치 콘텐츠에 대한 대응 방안도 밝혔다. 틱톡은 정부, 정치인, 정당 계정을 ‘GPPPA’ 계정으로 별도 구분하고 크리에이터 수익화 기능, 광고, 캠페인 모금 등을 제한한다. GPPPA 계정이 시민 담론에서 갖는 중요성을 인지하고 있기 때문에 나온 조치라고 틱톡은 설명했다.

허위 정보에 대해서는 내부 심사 인력과 50여개 언어를 지원하는 전 세계 17개 팩트체크 기관과 협력해 사실 검증을 진행한다. 사실이 검증되지 않은 콘텐츠에는 별도의 ‘경고 라벨’을 붙이고, 코로나19 등 특정 주제에 대해서는 정보센터를 설립해 이용자가 공신력 있는 정보에 도달할 수 있도록 돕는다.

틱톡은 콘텐츠 심사를 통해 작년 3분기에만 총 1억3653만개의 동영상을 삭제했다. 실제 이용자들의 피해로 이어지기 전에 가이드라인 위반 동영상을 선제적으로 삭제한 비중은 전체의 96.1%에 달했다. 삭제된 동영상의 90.6%는 24시간 내에 삭제됐고, 76.8%는 이용자가 조회하기 전에 틱톡 플랫폼에서 사라졌다.

틱톡은 앞으로도 안전한 플랫폼 환경을 만들기 위해 노력할 계획이다. 지난달 31일(현지시간) 틱톡 추쇼우즈 CEO가 미 연방 상원 법사위가 개최한 ‘빅테크와 온라인 아동 성 착취 위기’ 청문회에서 올해 어린이의 안전과 보호에 전 세계적으로 20억 달러(약 2조6560억원)를 투자하겠다고 밝히기도 했다.

류동근 틱톡코리아 공공정책 총괄은 “개별 기업이 모든 유해 콘텐츠를 막을 수는 없지만, 틱톡은 (플랫폼 환경을) 바꾸기 위해 노력하고 있다”면서 “한국에서는 한국생명의전화와 자살·자해 예방 캠페인을, 한국언론진흥재단과는 미디어 리터러시 교육 자료를 제작 및 배포하고 있다”고 말했다.

- Copyright ⓒ 조선비즈 & Chosun.com -