유튜브에 AI 제작 저질 영상 홍수…연 1700억원 수익

유튜브에 인공지능(AI)이 급조해 만든 영상이 홍수를 이루면서 특히 어린이들에게 큰 해악을 끼치고 있는 것으로 드러났다.

유튜브는 현재 AI가 제작한 저질 콘텐츠를 말하는 '슬롭'(slop)을 필터링하지 않고 있다. 유튜브 알고리즘이 신규 사용자에게 추천하는 영상 5개 중 1개는 AI가 급조한 저질 콘텐츠 슬롭인 것으로 나타났다.

27일(현지시간) 영국 일간 가디언에 따르면 영상 편집 플랫폼 '카프윙'이 전 세계 국가별 상위 100위 유튜브 채널 1만5000개를 조사한 결과 278개 채널이 오로지 AI로 만든 저품질 영상만을 송출하는 것으로 확인됐다.

이들 채널이 확보한 구독자 수는 모두 2억2100만명, 누적 조회수는 630억 회에 달했다. 이들이 창출하는 광고 수익만 연 1억1700만달러(약 1700억원)에 이를 것으로 추산됐다.

카프윙이 신규 계정을 생성해 테스트한 결과 초기 추천 영상 500개 중 20%가 넘는 104개가 AI 슬롭이었다.

특히 이 중 3분의 1은 맥락이 없고 자극적인 '뇌 썩음' 콘텐츠였다는 것이 연구팀의 설명이다.

AI가 대량으로 생산하는 저질 콘텐츠를 의미하는 '슬롭'은 미국의 유명 사전 출판사 메리엄웹스터가 올해의 단어로 선정할 만큼 논란의 중심이 됐다.

화려한 색감의 영상과 자극적 설정으로 판단력이 낮은 어린이 등의 클릭을 유도하기 때문이다. 따라서 어린이 교육에 큰 해악을 미치는 것으로 우려된다.

파키스탄의 한 채널은 대홍수라는 참사를 슬롭으로 재구성해 13억회의 조회수를 기록하기도 했다.

슬롭은 비용을 거의 들이지 않고서도 수익을 창출할 수 있는 모델로 정착했다. 이 때문에 인터넷 연결이 비교적 원활하면서도 평균 임금이 높지 않은 인도와 케냐, 나이지리아 같은 국가 출신 제작자들도 슬롭을 양산하고 있다는 것이 전문가들의 지적이다.

유튜브 등 동영상 플랫폼이 슬롭에 대해 더욱 엄격한 입장을 취해야 한다는 주장도 제기된다.

AI가 생성한 저질 콘텐츠가 디지털 생태계를 교란하고 있는 만큼, 플랫폼 차원에서 강력한 필터링과 수익 창출 제한 조치가 필요하다는 것이다.

다만 유튜브 측은 "AI는 도구일 뿐이고, 고품질 콘텐츠와 저품질 콘텐츠를 만드는 데 동시에 사용될 수 있다"라며 "우리는 제작 방식과 관계없이 사용자들에게 고품질 콘텐츠를 연결해주는 데 집중하고 있다"고 밝혔다.

이규화 대기자 david@dt.co.kr

인공지능(AI)이 급조한 저질 콘텐츠 슬롭. AP 연합뉴스 자료사진