"AI가 유해 영상 90% 선제 필터링"...틱톡, 분기 100만개 영상 삭제

싱가포르 투명성 및 책임센터 가보니

틱톡 싱가포르 투명성 및 책임 센터(TAC). 사진=주원규 기자

틱톡 싱가포르 TAC 내에 마련된 인공지능(AI) 필터링 및 전문 심사역 체험 공간. 틱톡 제공

[파이낸셜뉴스 싱가포르=주원규 기자] #. 지난달 25일 틱톡 싱가포르 본사에 위치한 틱톡 투명성 및 책임 센터(TAC). TAC 관계자가 모니터와 연결된 카메라 앞에서 담배를 입에 물자 ‘흡연 지수’가 10%대로 올라갔고, 이후 담배를 피우는 시늉을 하니 흡연 지수는 점점 상승했다.

반대로 막대사탕을 입에 물고 동일한 동작을 했을 때 흡연 지수는 올라가지 않았다. 인공지능(AI)이 영상에 나온 사람의 동작과 맥락을 정교하게 분석해 동영상의 유해성 여부를 판단한 것이다.

전세계 10억명 이상이 사용하는 플랫폼으로 성장하며 영향력이 커진 틱톡은 최근 이용자 안전과 사회적 책임 이행에 중점을 두고 있다. 전세계에 위치한 TAC는 각 지역의 콘텐츠 심사와 추천 과정, 플랫폼 보안 등을 투명하게 공개하고 사회적 책임 강화 방안을 알리려는 목적으로 운영되는 시설이다.

4일 틱톡에 따르면 지난해 4·4분기에만 전 세계에서 틱톡의 커뮤니티 가이드라인을 위반한 약 1억 8400만개의 영상이 삭제됐다. 한국에서도 매 분기 약 백만개 영상이 삭제되고 있는 상황이다.

이용자가 올린 콘텐츠는 AI 자동 필터링과 전문 심사역 검토 절차를 거친다. 삭제 콘텐츠 중 86%는 머신러닝에 의해 걸러지고, 89.7%는 조회 전 모두 삭제된다. 만약 AI가 판단이 어려운 콘텐츠는 전문 심사 담당자가 가이드라인을 위반하지 않는지 24시간 검증한다. 전세계 수만명의 전문 심사역은 현지 문화나 관습, 법률 위반 맥락도 고려한다. 이러한 전문 심사역 인원은 콘텐츠 플랫폼 중 가장 대규모로 알려졌다.

틱톡의 가이드라인은 △안전 및 시민 의식 △정신 및 행동 건강 △민감한 성인 테마 △진실성 및 진정성 △규제 대상 물품 및 상업 활동 △개인 정보 보호 및 보안 등 6가지 주제로 구성돼 있다.

가이드라인의 핵심 판단 기준은 '콘텐츠를 시청하거나 공유하는 것이 실제 현실에서 어떤 피해를 야기할 수 있는가'이다. 다만 즉시 제제가 모호한 콘텐츠를 판단하기 위해 팩트체크 기관과 외부 전문가들을 통한 상시 자문 체계를 구축했다.

국내에서는 청소년 안전을 위해 푸른나무재단, 탁틴내일 등 청소년 비영리단체(NGO)와 협업하고 있다. 틱톡 관계자는 "일선 현장 전문가들로부터 실질적 위해 여부에 대한 피드백을 지속적으로 받고 이를 정책 개선에 반영한다"고 전했다.

틱톡 커뮤니티 가이드라인의 가장 최신 개정은 지난해 9월 이뤄졌다. 최근 플랫폼들이 AI 기술로 만들어진 저품질 콘텐츠 양산 대응에 골머리를 앓고 있는 상황에 틱톡은 AI 생성 콘텐츠를 필터링 기능도 도입했다. 곧 국내에도 시험 과정을 거쳐 도입될 예정이다.

틱톡은 콘텐츠에 있어 '독창성(Authenticity)'의 가장 높은 가치를 두기 때문에 AI에 의해 패턴화되고 뻔한 콘텐츠는 알고리즘의 추천을 받기에도 어렵고, 수익 구조에서도 경제적 매력이 없다는 설명이다.

추천 알고리즘에는 필터버블을 방지하는 것에 초점을 뒀다. 틱톡은 이용자에게 익숙한 콘텐츠와 새로운 콘텐츠를 혼합해서 추천하는 방식을 사용한다.

틱톡 관계자는 "틱톡의 콘텐츠 관리는 단순한 제재를 넘어서 입체적으로 대응하는 경우가 많다"며 "글로벌 플랫폼이지만 각 지역에서 즉각적인 의사결정과 대응이 가능하다"고 전했다.

wongood@fnnews.com 주원규 기자