“편하게 밥 먹으려고 틀어줬는데”...‘5분 딸깍’ 영상에 뇌 망가지는 아이들

AI가 제작하는 저질 아동용 컨텐츠
유튜브·틱톡 등 숏폼 빠르게 잠식
클릭 수만 노리고 대량 생산된 만큼
영유아들 뇌 발달에 심각한 악영향

슬롭의 예시로 자주 등장하는 ‘새우 예수’ 이미지. 마이크로소프트의 생성형AI 코파일럿으로 만든 이미지. [공공저작물]

생성형 인공지능(AI) 기술을 이용해 조잡하게 제작된 저질 아동용 콘텐츠가 유튜브와 틱톡 등 숏폼 플랫폼을 빠르게 잠식하고 있다. 교육적 가치 없이 오직 클릭 수만을 노리고 대량 생산된 ‘AI 슬롭(AI Slop)’이 영유아들의 뇌 발달에 심각한 악영향을 미친다는 경고가 나왔다.

11일(현지시간) CNN에 따르면 AI 툴을 활용해 제작된 기괴한 아동용 영상들이 알고리즘을 타고 아이들의 피드를 장악하고 있다. 특히 ‘AI로 아동용 채널을 만들어 월 1만 달러 벌기’와 같은 튜토리얼 영상이 인기다.

제작 과정은 단순하다. 챗GPT로 대본을 쓰고, 미드저니나 소라(Sora) 같은 영상 생성 AI를 이용하면 불과 5분 만에 콘텐츠 하나가 완성된다. 한 크리에이터는 “교육적 가치는 중요하지 않다”며 “아이들의 시선을 묶어둘 화려한 색감과 반복적인 소리, 알고리즘이 선호하는 키워드만 있으면 수익이 창출된다”고 털어놨다.

문제는 이렇게 만들어진 영상의 질이 현저히 낮다는 점이다. 검수 과정이 없다 보니 캐릭터의 손가락이 6개로 묘사되거나, 물리 법칙을 무시한 기괴한 움직임이 그대로 노출된다. 하지만 판단력이 부족한 영유아들은 무방비로 이를 시청한다. 아동 보호 단체 페어플레이와 퓨리서치센터의 조사에 따르면 2세 미만 자녀를 둔 미국 부모의 60% 이상이 자녀에게 유튜브나 틱톡을 보여주는 것으로 나타났다.

전문가들은 이를 ‘디지털 마약’에 비유하며 강력히 경고하고 있다. 마이클 리치 보스턴 어린이병원 디지털 웰니스 연구소장은 “AI 영상은 서사 없이 자극만 무한 반복해 아이들의 뇌를 도파민 루프에 가두는 ‘팝콘 브레인’ 현상을 심화시킨다”며 “이런 강한 자극에 익숙해진 아이들은 현실 세계의 느린 호흡과 자극을 견디지 못하게 된다”고 지적했다.

논란이 확산되자 틱톡과 유튜브 측은 성명을 통해 AI 생성 콘텐츠에 대한 라벨링(표시)을 의무화하고 유해 콘텐츠 필터링을 강화하겠다고 밝혔다. 그러나 시민단체들은 하루에도 수만 건씩 쏟아지는 AI 영상을 기술적으로 완벽히 걸러내기엔 역부족이라고 주장하고 있다.