알고리즘 ‘토끼굴’에 중독된 청소년들…칼 빼든 정부는 그들을 보호할 수 있나

메타와 구글 등 소셜미디어 중독으로 인해 가족을 잃은 유족들이 지난 3월25일(현지시간) 미국 캘리포니아주 로스앤젤레스 고등법원 앞에서 피해자들의 사진을 들고 있다. AFP연합뉴스

수익 직결된 ‘체류 시간’ 늘리려
기록 근거로 ‘다음 콘텐츠’ 추천
무한 스크롤·자동 재생 등 더해
이용자 반복 행동·과의존 강화

미·EU, 중독성 설계 잇단 제동
한국도 노출 제한 등 검토 착수
규제 대상 정하는 것부터 과제
연령 제한은 ‘우회’ 가능성 커

고등학교 1학년 김민정양(16·가명)은 1년 전부터 학업 스트레스를 풀기 위해 쇼트폼 영상을 봤다. 점차 휴대폰을 붙들고 있다가 새벽 2~3시에야 잠드는 날이 늘었다. 다이어트 쇼트폼을 본 이후로는 화면 속 인플루언서와 자신을 비교하며 점심도 걸렀고, 한 번에 수십만원어치 다이어트 보조제를 사는 일도 잦아졌다. 김양은 결국 지난 5월 부모와 상담소를 찾았다.

김양은 “영상에는 몇주 만에 몇킬로씩 살을 뺐다는 사람들이 계속 나오는데, 이를 볼수록 초조해졌다”며 “내가 보고 싶은 영상을 선택한다고 생각했는데, 어느 순간부터는 추천되는 영상을 멈추지 못하고 계속 보게 됐다”고 말했다.

정부가 이런 ‘알고리즘 중독’을 겨냥한 규제 카드를 꺼내 들었다. 온라인 플랫폼이 이용자에게 무엇을 어떤 순서로 추천하는지 그 설계 방식에 손을 대겠다는 것이다.

미국과 유럽연합(EU)이 추천 알고리즘·자동재생 등을 ‘중독성 설계’로 보고 잇달아 제동을 건 흐름을 따라가는 조치다. 다만 업계에서는 규제 대상과 기준이 불분명한 채로는 허울뿐인 규제에 그칠 수 있다는 지적이 나온다.

이용자 관심사 좇는 ‘추천 알고리즘’

‘당신이 원하는 콘텐츠를 먼저 찾아 보여줍니다.’ 플랫폼이 내세우는 추천 알고리즘의 기능이다. 이용자가 관심 있을 만한 콘텐츠를 먼저 찾아서 보여주고 이용자가 ‘탐색할 시간’을 줄여준다는 것이다. 넷플릭스·유튜브·스포티파이 등 글로벌 플랫폼 기업들은 이런 추천 알고리즘을 핵심 엔진으로 삼아 성장했다.

작동 방식은 단순하다. 우선 이용자가 고른 관심사나 초반 이용 기록을 바탕으로 보여줄 만한 콘텐츠 후보를 추린다. 이어 콘텐츠마다 끝까지 볼 확률, ‘좋아요’를 누를 확률, 공유할 확률 등을 각각 예측한 뒤 가중치를 곱해 점수를 매긴다. 이 점수 순서대로 화면에 콘텐츠가 나온다.

알고리즘이 측정하는 것은 이용자의 ‘관심’이다. 통상 호기심이나 불안 때문에 오래 본 영상도 ‘선호’로 계산될 수 있다. 플랫폼들은 이 과정에서 유해 콘텐츠를 걸러내는 자정장치를 두고 있다고 항변하지만 알고리즘이 공개되지 않는 한 이를 검증하긴 어렵다. 체류시간이 길어질수록 광고 노출도 늘어나고, 플랫폼의 수익도 증가한다. 플랫폼이 알고리즘 규제에 소극적이라는 의심을 받는 이유다.

오세욱 선문대 미디어커뮤니케이션학부 교수는 “문제는 이 알고리즘이 이용자가 자극적인 콘텐츠를 ‘오래 봤다’는 신호는 잡아내지만, 그 콘텐츠가 불법 정보인지 허위 정보인지까지 판단하기는 어렵다는 것”이라고 말했다.

“‘다음 영상은 더…’ 기대 유발해 중독”

전문가들은 이 알고리즘이 이용자의 관심을 증폭시킨다는 점에 주목한다. 독일 막스플랑크 인간개발연구소 실험 결과, 이용자가 관심 분야 영상을 13개쯤 시청한 시점부터 알고리즘은 비슷한 주제를 집중적으로 몰아주기 시작했다. 관심 분야 콘텐츠가 늘수록 접하는 해시태그의 다양성도 줄었다. 비슷한 콘텐츠 속으로 계속 깊이 빠져드는 이른바 ‘토끼굴’ 현상이다. 김은희 고려대 사범대학 겸임교수(김은희진로·심리상담연구소 소장)는 “이용자는 자유롭게 선택한다고 생각하지만 실제로는 플랫폼이 정한 순서에 수동적으로 반응한다”고 지적했다.

이른바 ‘무한 스크롤’(콘텐츠가 끝없이 이어지는 것)과 자동재생도 토끼굴 현상을 키운다. 다음 영상을 볼지 판단할 틈을 없애 이용자의 뇌를 일종의 ‘자동조종 모드’로 옮기는 것이다. 이런 구조는 자기통제 능력이 발달 단계인 청소년에게 더 위험할 수 있다. 김 교수는 “‘다음 영상은 더 재미있을 수 있다’는 기대 때문에 계속 화면을 넘긴다. 보상이 언제 나올지 예측할 수 없는 구조가 반복 행동을 가장 강하게 만드는 것”이라고 했다.

위험 신호도 나타나고 있다. 과학기술정보통신부의 스마트폰 과의존 실태조사 결과를 보면 지난해 기준 전체 이용자의 과의존 위험군은 22.7%로 전년보다 0.2%포인트 낮아졌다. 2021년(24.2%) 정점을 찍고 4년째 하락 추세다. 반면 10~19세 청소년은 43.0%로 전년 대비 0.4%포인트 올라 전체 평균의 두 배에 육박했다. 청소년 위험군 비율은 4년 새 6%포인트(37.0%→43.0%) 상승했다.

김현수 명지병원 정신건강의학과 교수는 “청소년이 스마트폰 과의존에서 벗어나지 못하는 것은 자신이 통제할 수 없는 알고리즘 때문”이라며 “알고리즘이 중독 대상을 계속 공급하는 셈”이라고 말했다. 백운희 정치하는엄마들 운영위원은 “개인에게만 책임을 물으면 스스로에 대한 열패감만 남고, 플랫폼은 책임에서 빠져나가게 된다”고 했다.

해외서 잇단 제동…국내도 입법 논의

미국 로스앤젤레스 카운티 법원 배심원단은 지난 3월 메타와 구글이 중독성이 과한 영상 노출 구조로 청소년에게 피해를 입혔다며 총 600만달러(약 85억원)를 배상하라고 평결했다. 빅테크의 중독성 설계 책임을 물은 첫 사례다. 미국 뉴욕주는 18세 미만에게 개인 맞춤형 피드를 제공할 때 보호자 동의를 받도록 하는 규칙을 지난달 확정해 내년 1월 시행한다. EU 집행위원회도 지난 2월 틱톡의 무한 스크롤·자동재생·개인화 추천이 디지털서비스법을 위반했다는 예비판단을 내렸다. 플랫폼이 중독 유발 위험을 충분히 평가하지 못했다는 취지다. 지난달엔 인스타그램·페이스북에도 자동재생과 무한 스크롤을 기본 적용하지 말라고 요구했다.

한국 정부도 이런 흐름을 반영해 규제 검토에 착수했다. 김종철 방송미디어통신위원장은 지난달 16일 대통령 업무보고에서 “19세 미만은 중독성 디자인이나 과몰입을 유도하는 추천 알고리즘 노출을 제한하는 방안을 단계별로 모색하고 있다”고 말했다. 황운하 조국혁신당 의원이 지난 3월 발의한 정보통신망법 개정안은 미성년자 계정에서 개인 맞춤형 추천과 이용시간을 늘리는 기능을 제한하고, 플랫폼에 추천 작동 방식과 차단 방법을 알릴 의무를 부과하도록 했다.

“기준 모호” 회의론도…대안은?

다만 실제 규제까지 넘어야 할 산도 많다. 당장 규제 대상을 명확히 정하는 것부터가 쉽지 않다. 추천 기능은 SNS뿐 아니라 뉴스·게임·쇼핑 등 플랫폼 업계 전반에 쓰인다. 한 플랫폼 안에서도 메신저·오픈채팅·쇼트폼처럼 성격이 다른 기능이 섞여 있기도 하다. SNS에만 적용하거나 한 플랫폼 안에서 특정 기능만 규제하면 형평성 논란이 불거질 수 있다.

뉴욕주는 이용자가 전체 이용시간의 20% 이상을 알고리즘 피드에 쓰고, 월 활성이용자 수가 500만명 이상인 서비스 등으로 한정했다. 논란을 피하기 위해 사업 규모·이용자 비율 등 눈에 보이는 숫자로 기준을 정한 것이다.

다만 이 경우에도 ‘우회로’가 생길 수 있다. 청소년이 성인 계정으로 접속하면 실제 이용자를 확인하기 어렵다. 연령 확인 없이 e메일만으로 가입되는 해외 서비스도 있다. 오 교수는 “일률적으로 차단하면 청소년이 규제가 덜한 소규모 플랫폼으로 이동할 가능성이 있다”고 말했다.

업계 관계자 A씨는 “요즘은 검색이나 맛집·학원을 찾는 데도 알고리즘이 들어간다. 어느 서비스의 어떤 기능까지 규제할지 먼저 정해야 한다”고 말했다. 다른 관계자 B씨도 “해외 사업자는 빠져나가고 국내 플랫폼만 규제받는 결과가 돼서는 안 된다”고 했다.

추천 알고리즘을 대체할 장치를 마련하는 일도 관건이다. 개인화 추천 기능을 끄면 이용자 화면을 무작위로 채우거나 인기순·팔로순 등 기준을 적용해야 하지만, 기존 추천 알고리즘만큼 이용자를 만족시킬 수 있을지는 미지수다.

이에 청소년 계정에 별도 알고리즘을 적용하는 것도 대안으로 거론된다. EU 집행위는 앞서 시청 기록과 같은 ‘수동적 신호’가 아니라 좋아요 표시 등 이용자가 직접 매긴 ‘능동적 신호’를 우선 반영하라고 플랫폼에 권고했다. 업계에서는 어떤 기준으로 알고리즘을 새로 만들지를 합의할 시간이 필요하다고 말한다. A씨는 “결국 플랫폼의 가치 판단이 들어가야 해 복잡한 문제”라며 “제도를 실제로 적용할 때 어떻게 될지도 함께 논의 대상이 되면 좋을 것”이라고 했다. 오 교수는 “이용자가 추천 알고리즘의 원리와 문제점을 알고 책임 있게 이용할 수 있도록 하는 환경을 만드는 게 선행돼야 한다”고 말했다.

김세훈 기자 ksh3712@kyunghyang.com