청소년 SNS 규제 시대, '틱톡'이 말하는 책임성

틱톡 본사 투명성 및 책임 센터 가보니…"청소년 보호장치 마련"
선제적 만 14세 미만 이용 금지 조치…콘텐츠 심사 수만명 투입

11일 싱가포르 틱톡 본사에 있는 '투명성 및 책임 센터'(TAC·Transparency and Accountability Center) 모습. ⓒ 뉴스1 이기범 기자

(싱가포르=뉴스1) 이기범 기자 = 전 세계적으로 청소년 SNS 규제가 확산하고 있다. 한국도 만 14세 미만의 SNS 가입을 제한하고, 미성년자에게 추천 알고리즘과 무한 스크롤 기능을 제공하지 않는 방안 등이 논의되고 있다. SNS가 청소년의 정신건강을 악화시킨다는 공감대가 쌓이면서 '청소년 SNS 금지법'이 '글로벌 스탠다드'처럼 번지고 있다.

이 같은 규제 움직임에는 플랫폼 업체에 대한 책임론이 뒤따른다. 수익을 위해 SNS 중독 등 청소년 문제를 방기했다는 지적이다. '틱톡'도 이 같은 문제의 중심에 서 있었다. '챌린지' 문화를 중심으로 10대들 사이에서 큰 인기를 얻고 있는 틱톡은 자칫 목숨을 잃을 수 있는 '위험한 챌린지'의 온상지로 지적받기도 했다.

이 같은 비판과 우려 속에 틱톡은 청소년 보호와 관련해 어떤 조치들을 해왔을까. 지난 11일 싱가포르 틱톡 본사에 있는 '투명성 및 책임 센터'(TAC·Transparency and Accountability Center)를 찾았다. 해당 센터는 정부 관계자 및 학계에 틱톡이 어떤 방식으로 콘텐츠를 노출하는지, 안전한 플랫폼 환경을 구축하기 위해 어떤 정책적 노력을 하고 있는지 알리는 역할을 한다.

만 14세 미만 이용 금지…연령대별 다른 콘텐츠 적용

TAC는 현재 싱가포르를 비롯해 미국 워싱턴DC, 로스앤젤레스, 아일랜드 더블린 등에서 운영되고 있다. 2020년 미국을 중심으로 중국 바이트댄스가 운영하는 틱톡이 사용자 데이터를 오용할 수 있다는 우려가 커지면서 설립됐다.

틱톡 싱가포르 본사 TAC 관계자에 따르면 현재 틱톡은 연령에 따른 등급 시스템을 통해 이용자 연령별로 각기 다른 콘텐츠를 제공하고 있다. 한국의 경우 만 14세 이상부터 가입할 수 있으며, 글로벌 최소 연령은 13세부터다. 일부 연령대는 라이브 방송이나 다이렉트 메시지(DM) 이용이 불가하다.

구체적으로 살펴보면 14~15세는 계정 비공개가 기본 설정으로 적용되며 DM 사용 불가, 청소년 제작 콘텐츠의 포 유 피드 추천 노출 불가, 듀엣·이어찍기 불가, 댓글은 친구만 허용, 다른 사용자의 동영상 다운로드 불가, 오후 9시 이후 푸시 알림 비활성화 등이 이뤄진다.

16~17세는 DM 사용과 계정 공개가 가능하지만 비공개 설정이 기본이다. 또 오후 10시 이후 푸시 알림이 비활성화된다.

18세 미만은 공통으로 라이브 방송을 할 수 없으며, 일일 스크린타임 60분이 기본 적용된다. 아울러 보호자 계정 연동을 통해 콘텐츠 설정을 관리하거나 계정 연동 없이도 보호자 암호에 기반해 스크린타임이나 제한 모드를 설정할 수 있다.

11일 싱가포르 틱톡 본사에 있는 '투명성 및 책임 센터'(TAC·Transparency and Accountability Center)에서 관계자가 설명을 하고 있다. ⓒ 뉴스1 이기범 기자

틱톡 측은 올해 1분기 글로벌 13세 미만 의심 계정 약 2500만 개를 삭제했다고 밝혔다.

일각에서는 나이에 따른 가입 제한에 대해 우회 경로가 많다며 한계점을 지적한다. 나이 제한을 골자로 하는 청소년 SNS 금지법을 놓고도 제기되는 비판이다.

이에 대해 틱톡 관계자는 틱톡은 가입 시 입력하는 생년월일에만 의존하지 않는다며 연령 허위 기재 차단을 위해 기술적 분석, 인적 모니터링, 외부 신고 제도를 결합한 다면적 접근법을 활용하고 있다고 밝혔다. 또한 외부 전문가 자문 등을 통해 청소년의 외모적·행동적 특징 등 지역별 특성에 맞춰 탐지 시스템을 지속해서 고도화하고 있다고 덧붙였다.

청소년 SNS 금지법에 대해서는 각국의 법률과 규제 준수를 기본 원칙으로 한다는 입장이다. 10억 명 이상이 사용하는 글로벌 플랫폼에서 모든 문제를 '0'으로 만들 수는 없지만, 문제를 지속해서 개선해 나가겠다는 것을 목표로 삼고 있다고 강조했다. 틱톡은 청소년 SNS 규제를 포함해 각 지역의 온라인 청소년 안전 관련 움직임에 발맞춰 대응을 고도화해 나갈 예정이다.

11일 싱가포르 틱톡 본사에 있는 '투명성 및 책임 센터'(TAC·Transparency and Accountability Center) 모습. ⓒ 뉴스1 이기범 기자

콘텐츠 필터링 위해 수만 명의 현지 인력 투입

현재 전 세계 150개국 이상, 10억 명 이상이 사용하고 있는 틱톡은 이용자의 관계 기반이 아닌 추천 피드를 중심으로 콘텐츠를 띄워준다. 이에 따라 콘텐츠 추천 알고리즘과 콘텐츠 필터링이 중요한 역할을 한다.

이를 위해 틱톡은 머신러닝 기반의 인공지능(AI)이 1차적으로 콘텐츠를 걸러주고 인적 심사를 병행하는 방식을 적용하고 있다.

올해 1분기 약 1억 8401만 개의 영상 콘텐츠가 삭제됐는데, 이 중 약 96.7% 수준인 1억 7801만 개가 AI 필터링 방식으로 조치됐다. 이용자 신고 전 선제적 삭제율은 99.3%에 이른다. 인적 자원에 의한 재검토 후 복원된 콘텐츠 수는 883만 8710개다.

같은 기간 한국에서는 25만 4399개의 영상이 삭제됐다. 자동화 삭제는 전체 약 87%인 22만 1349개, 재검토 후 복원된 콘텐츠는 2만 6847개다.

틱톡 관계자들은 콘텐츠 관리를 위해 수만 명을 투입하고 있다고 밝혔다. 각 지역의 언어와 문화를 이해하는 현지 인력이 심사를 맡고 있으며, 전 세계 80여 개 이상의 언어를 커버하고 있다는 설명이다. 구체적인 수치를 밝히지 않았지만, 한국에서도 상당수의 인력을 운영 중이라고 강조했다.

TAC에는 이 같은 AI 필터링 작동 방식을 보여주는 체험형 공간이 있다. 이용자가 칼 등 위험한 물건을 들거나 흡연, 음주를 하는 자세를 취하면 AI가 이를 인식해 자동으로 콘텐츠 필터링을 적용하는 식이다. 심사 인력의 콘텐츠 라벨링 작업을 체험해 볼 수 있는 공간도 마련됐다.

틱톡 관계자는 자동 조치는 위반이 명백한 경우에 실행되며, 기술 단계에서 판단이 어려운 사례, 뉘앙스에 대한 복합적 판단이 필요한 콘텐츠의 경우 인적 심사로 이관돼 전문 인력이 검토한다고 밝혔다.

11일 싱가포르 틱톡 본사 모습. ⓒ 뉴스1 이기범 기자

Ktiger@news1.kr