초등생에 성인용품 영상 '추천'…유해 콘텐츠 못 걸러내는 플랫폼

알고리즘 지배사회
(4) 알고리즘 함정에 빠진 청소년들
스마트폰 중독 갈수록 느는데
자기 조절력 약한 10대 '과몰입'
25%가 인간관계·건강문제 경험
나이제한 무색, 유해영상 띄워
혐오·우울·극단선택·성인물 등
자극적인 콘텐츠 끊임없이 추천

초등학생 자녀를 둔 김모씨는 최근 자녀가 유튜브에서 ‘국민 가게’ 모 브랜드를 검색한 것을 발견하고 깜짝 놀랐다. 해당 매장에서 성인용품을 구할 수 있다는 식의 콘텐츠가 검색 상단에 버젓이 떠 있었기 때문이다. 그는 “브라우저로 들어갔기 때문에 유튜브에 로그인되지 않은 상태였다”며 “누가 보는지 확인하지도 않고 성인용 콘텐츠를 ‘전체 공개’로 띄우는 게 말이 되느냐”며 분통을 터뜨렸다.

태어난 순간부터 스마트폰에 노출되는 요즘 아이들을 일러 ‘호모 스마트포니쿠스’라고 한다. 현실의 좁은 공간에 비해 스마트폰이 보여주는 세상은 넓고 한계가 없다. 대신 규칙도 없다. 소셜미디어는 미성년자에게 유해한 콘텐츠를 추천하고도 책임을 사용자에게 떠넘기고 있다.

 ○‘토끼굴’에 들어가는 아이들

14일 한국언론진흥재단이 한 ‘2022년 10대 청소년 미디어 이용 조사’에 따르면 10대의 하루평균 인터넷 이용 시간은 479.6분(모바일·PC 합산)에 달했다. 매일 평균 8시간가량을 인터넷에 연결된 상태로 살고 있다는 얘기다. 이들은 인터넷을 통해 세상을 보고, 듣고, 배운다. 부모가 맞벌이거나 한부모 가정이면 스마트폰 화면 속 세상의 힘은 커진다. 여기에 ‘중독’된 아이들은 급기야 현실 세계에 등을 돌리기 시작한다. 하루 16시간 이상을 스마트폰을 하며 보내다 새벽 6시가 돼야 잠드는 생활을 반복하면서 등교를 거부하는 식이다.

과학기술정보통신부와 한국지능정보사회진흥원(NIA)이 발표한 ‘2023년 스마트폰 과의존 실태조사’에 따르면 청소년들은 게임, SNS, 영화·TV·동영상, 숏폼 등 모든 콘텐츠 부문에서 자기 조절력이 가장 낮은 것으로 나타났다. 청소년 4명 중 1명은 스마트폰 때문에 가족 또는 친구와 다투거나 건강에 문제가 생긴 경험, 업무 수행에 어려움을 느낀 적이 있다고 답했다.

 ○하루 8시간 인터넷 사용

소셜미디어가 청소년의 정신건강을 황폐하게 한다는 증거는 곳곳에서 발견된다. 특히 유튜브와 틱톡 같은 ‘콘텐츠 소비형’ 소셜미디어는 중독적이고 유해하다.

비정부기구(NGO)인 국제앰네스티가 알고리즘 투명성기구(ATI) 및 AI포렌식과 함께 연구한 결과에 따르면 틱톡은 13세로 설정한 계정을 시작한 지 3~20분 만에 ‘포유’(추천) 영상 피드를 통해 성(性)적인 내용을 담거나 우울한 생각, 자기혐오, 자살충동을 부추기는 유해 콘텐츠를 제공했다. 이런 콘텐츠를 ‘토끼굴(rabbit holes)’이라고 부른다. 한번 들어가면 더 자극적인 콘텐츠에 이끌려 계속 클릭하게 되고, 이런 콘텐츠를 보기 전의 상태로 돌아가기 힘든 것을 토끼굴에 비유한 것이다. 소셜미디어가 이런 콘텐츠를 ‘깔아놓는’ 것은 결코 우연이 아니다. 혐오와 갈등을 부추기는 자극적인 콘텐츠를 많이 내놓을수록 소셜미디어 알고리즘은 이를 금전적, 비금전적으로 보상한다. 앰네스티와 비슷한 연구 결과를 발표한 미국 비영리단체 디지털혐오방지센터(CCDH)는 “디지털 공간은 식민지화됐다”며 “혐오와 잘못된 정보를 도구로 사용하는 악의적인 이들에게 조종당하고 있다”고 평가했다.

빅테크 플랫폼은 그런 콘텐츠가 모두 ‘성인용’이라고 주장한다. 유튜브는 ‘유튜브키즈’ 앱을 깔면 비교적 건전한 콘텐츠만 볼 수 있다는 점을 들어 항변한다. 하지만 초등학교 1학년만 돼도 유튜브키즈 콘텐츠에는 더 이상 관심을 보이지 않는 경우가 대부분이다.

채정호 서울성모병원 정신의학과 교수는 “요즘 청소년은 태어날 때부터 손에 ‘(디지털) 마약’이 쥐어지는 셈”이라며 “알코올중독 등 다른 중독 치료와 마찬가지로 여가 시간에 스마트폰을 하지 않아도 정서적 안정감을 느낄 수 있도록 유도하는 정책이 필요하다”고 말했다.

말만 '어린이 버전'…성인용과 차이없어
시청 연령제한 실험해보니

유튜브는 미성년자 회원 가입에 엄격한 제한을 둔다. 가족 계정을 통해 미성년자 계정을 생성할 때 만 9~12세와 만 13~17세를 설정할 수 있다. 이렇게 설정하면 대부분의 부모는 ‘19금’ 동영상이 뜨지 않을 것이라고 안심하게 마련이다.

14일 한국경제신문이 스마트폰 공기계 3대를 이용해 5일간 실험한 결과는 전혀 달랐다. ‘유튜브키즈’가 아니라 일반 ‘유튜브’ 앱은 미성년자에게도 19금 콘텐츠를 버젓이 추천했다. 관련 검색어를 치면 빠른 속도로 계정이 19금화됐다. 일반 성인용 유튜브 계정과 차이는 있었지만 구멍이 숭숭 난 체를 쓰는 수준이었다.

유튜브에 미성년자로 회원가입을 하면 부모 계정과 연동할 수 있는 옵션이 뜬다. 부모는 본인·카드 인증 과정을 거쳐야 한다. 인증을 마치면 ‘자녀에게 적합한 콘텐츠 설정 선택하기’ 화면이 뜨고 여기에서 연령제한을 설정할 수 있다. ‘일반적으로 만 X세 이상 시청자에게 적합한 콘텐츠 등급에 따라 설정됩니다’라는 안내가 나온다. 필요에 따라 △둘러보기(만 9~12세) △더 둘러보기(만 13~17세) △대부분의 유튜브(만 18세 이상) 중 하나를 선택할 수 있다.

그러나 현실은 달랐다. 13세로 설정한 계정은 처음에는 고양이 영상, 여자 아이돌 직캠 등을 검색하자 비교적 무난한 콘텐츠를 띄웠다. 그러나 ‘노출’과 관련한 키워드를 검색한 순간 콘텐츠 내용은 완전히 달라졌다. 자극적인 19금 영상이 가감 없이 떴다. 성(性)에 관한 콘텐츠를 클릭하거나 검색하면 알고리즘이 사용자의 나이와 관계없이 성인용 콘텐츠로 직행한다는 얘기다.

13세 계정으로 설정한 휴대폰에는 ‘요즘 10대들이 사랑을 나누는 방법’ ‘결국 끝까지 가버린 여자’ ‘치마를 부여잡지만’ ‘쾌감이 오는 자세’ 같이 적나라한 제목의 동영상과 쇼츠가 상위 콘텐츠에 버젓이 추천됐다. 9세로 설정한 계정도 마찬가지였다

"알고리즘에 갇힌 아이들, 상상 줄고 시야 좁아져"
<아이들의 화면 속…> 저자 김지윤 인터뷰

스마트폰 사용 막는데는 한계
청소년 통제력 기르게 도와야

“알고리즘은 굳이 세상의 총천연색 빛깔을 다 보여주지 않아요. 오히려 ‘나의 세계’에 갇히도록 맞춤 추천을 하는 데 골몰하죠.”

지난해 <아이들의 화면 속에선 무슨 일이 벌어지고 있는가>라는 책을 발간한 디지털에이전시 스텔러스의 김지윤 대표(사진)는 청소년 스마트폰 이용 문제를 오랫동안 고민한 인물이다.

김 대표는 14일 한국경제신문과의 인터뷰에서 “알고리즘에 갇힌 아이들은 ‘다른 길’에 대한 상상력이 약해지고 무력감을 느낄 수 있다”며 “이들에게 아무 생각 없이 게임이나 소셜미디어에만 몰입하는 게 본인의 손실이고 누군가에겐 이득이 된다고 알려줄 필요가 있다”고 강조했다.

그는 “아이들이 스스로 주체성을 갖추도록 하는 게 제일 중요하다”고 했다. 청소년이 스마트폰을 통해 세상과 관계를 맺는 것 자체를 문제시하는 데는 한계가 있고, 자신을 통제할 수 있도록 지원해야 한다는 취지다.

온라인 마케팅 분야에 오랫동안 종사한 김 대표는 소셜미디어 화면(알고리즘)이 ‘인위적으로 디자인된 것’이라는 점에 경각심을 느낄 필요가 있다고 했다. 김 대표는 “유튜브 등의 무한 스크롤은 이 업계의 패러다임을 바꾼 디자인”이라며 “콘텐츠를 담는 ‘그릇’에 해당하는 미디어의 모양과 작동 방식은 사용자의 생각, 행동에 영향을 미친다”고 지적했다.

특히 “숏폼 콘텐츠가 등장하면서 젊은 세대가 눈뜨는 순간부터 자기 전까지 스마트폰을 하는 것, 시간을 모두 바치는 것은 분명 ‘과몰입’이나 ‘중독’이라고 볼 수 있는 부분”이라고 했다.

그는 “중이 제 머리를 못 깎듯 플랫폼이 스스로 문제를 해결할 수는 없다”고 말했다. 기업이 이익을 추구하되 너무 많이 추구하지 말자는 식으로 “모순된 의사결정을 해야 하기 때문”이라고 했다. 외부의 규제와 통제가 어느 정도 필요하다는 뜻이다.

무조건 빅테크 플랫폼을 쓰지 않는 게 좋다거나 부정적인 점만 거듭 얘기하는 것은 해법이 되기 어렵다는 게 그의 생각이다. 김 대표는 “어떻게 하면 더 좋아질까에 집중하는 것이 문제 해결에 더 도움이 된다”고 강조했다.

그가 제시하는 제일 간단하고 궁극적인 해법은 ‘언어화’다. 청소년이 ‘나는 왜 이것(스마트폰)을 쓰고, 무엇에 쓰고, 어떻게 쓰고 있다’는 것을 설명할 수 있도록 해야 한다는 것이다. 김 대표는 “자신이 원하는 성장 방향에 스마트폰이 도움이 되려면 어떻게 해야 하는지 생각해보고 말할 기회를 줘야 한다”고 했다.

알고리즘을 일부 바꿔야 한다는 주장도 펼쳤다. 김 대표는 “스마트폰 속 세상이 역동적으로 보이지만 역설적으로 밋밋하고 진부하다”며 “청소년이 새롭고 낯선 것을 알아가며 느끼는 ‘경이감’을 보호해야 한다”고 주장했다. 그러려면 자극적인 콘텐츠를 퍼붓는 대신 발견과 상상을 하는 빈 곳이 있는 경험을 해야 하고, 알고리즘도 이런 부분을 자극하는 쪽으로 개선할 여지가 있다는 것이다.

장서우/이상은/임다연 기자 suwu@hankyung.com