틱톡 알고리즘이 고의적이면서도 명확하게 아동들을 표적삼아 위험에 노출시키고 수익을 창출했다는 비판이 제기됐다.
영국의 10대 아동·청소년 4명의 부모가 틱톡을 상대로 자녀 사망 사건과 관련된 소송을 제기한 이유에 대해 가디언, BBC 등 외신이 8일(현지시간) 보도했다.
이번 소송은 아이작 케네번(13세), 아치 배터스비(12세), 줄리안 줄스 스위니(14세), 마이아 월시(13세)가 2021년 소셜 미디어에서 인기를 끌었던 ‘블랙아웃 챌린지’에 도전하다가 2022년에 사망했다는 주장이 제기되면서 시작됐다.
미국 소셜미디어 피해자법률센터는 지난주 아동의 부모를 대신해 소셜미디어 플랫폼 틱톡과 모회사인 바이트댄스를 상대로 부당 사망 소송을 제기했다.
피해자법률센터에 따르면, 위험하고 치명적인 틱톡 블랙아웃 챌린지에 노출된 후 질식사한 네명의 아동 중 세명이 같은 도시에 살았고 모두 비슷한 인구 통계에 속한다는 것은 우연이 아니다.
틱톡의 알고리즘이 의도적으로 위험한 콘텐츠로 이러한 아동들을 표적으로 삼아 플랫폼에서 참여 시간을 늘리고 수익을 창출한 것으로 비난받고 있다. 이 네명 아동의 목숨을 앗아간 것은 틱톡의 명확하고 고의적인 사업 결정이었다는 것이다.
틱톡에 따르면 챌린지와 관련된 비디오나 해시태그 검색은 2020년부터 차단됐다. 이 플랫폼은 위험한 콘텐츠나 챌린지를 금지하고 있으며, 신고되기 전에 이를 제거하고 해시태그나 비디오를 검색하는 사람들을 안전 센터로 안내할 계획이라고 강조하고 있다.
그러나 소송을 제기한 부모들과 피해자법률센터는 틱톡이 아동에게 재미있고 안전하다고 마케팅하는 위험하고 중독성 있는 제품이면서, 부모에게는 ‘거짓된 안전감’에 빠지게 한다고 비판했다.
틱톡이 플랫폼에서 참여 시간을 늘려 수익을 늘리기 위해 연령과 위치에 따라 아동에게 위험한 장난과 챌린지 영상을 제공한다는 주장이다.
또한 이번 소송은 틱톡이 블랙아웃 챌린지를 플랫폼에서 차단했었다고 주장하고 있는 가운데, 플랫폼에서 블랙아웃 및 이와 유사한 챌린지 영상에 노출돼 사망한 어린이에 대한 신뢰할 수 있는 보고를 무시하고 있다고 비판하고 있다.
틱톡에서 발견된 다른 위험한 챌린지에는 약물, 뜨거운 물이나 불과 관련된 챌린지가 포함된 것으로 파악됐다.
피해자법률센터는 자녀가 소셜미디어로 인해 피해를 입었다고 주장하는 가족을 대리하며, 자살, 자해 및 섭식 장애 콘텐츠를 보여주는 비디오를 홍보하는 것을 포함해 어린이와 청소년의 사망과 관련해서 틱톡을 상대로 여러 소송을 제기한 상태다.
올해부터 영국에서 시행되는 변경된 온라인 안전법은 소셜미디어 기업이 플랫폼에서 위험한 스턴트와 챌린지에 직면하지 않도록 아동과 청소년을 보호하고 아동이 가장 위험한 형태의 콘텐츠를 보지 못하도록 사전에 예방하도록 명시적으로 요구하고 있다.
피해자법률센터는 “아동 사망은 바이트댄스의 의도적인 중독성 설계 및 프로그래밍 결정의 예측 가능한 결과”라며 “필요한 모든 수단을 통해 아동들이 틱톡에 최대한 참여하도록 하는 것을 목표로 했다”고 지적했다.
또 센터는 “바이트댄스는 알고리즘 설계를 통해 모든 아동에게 해로운 의존성을 부여하고 끝없은 해악을 쏟아부었다”며 “이러한 해악들은 아동들이 틱톡을 사용하기 시작했을 때 찾거나 관심있어 하던 것이 아니었다”고 비판했다.
틱톡은 “부모들은 틱톡이 아동과 청소년을 위해 설계된 재미있고 안전한 플랫폼이라고 믿었다”며 “사망한 아동들은 평소 자신감 있고 예의바르며 이전에 정신건강 문제도 전혀 없었다”고 반박했다.