새우 예수? AI가 쏟아낸 저질 콘텐츠, 생각보다 심각하다

[AI 미디어 파도] 아무 의미 없는 AI 콘텐츠, 페이스북·X에서 확산
포브스 "AI가 생성한 쓰레기가 표면 위로 떠오르기 시작했다"
오물 뜻하는 'AI슬롭' 신조어도…"SNS 공론장 기능 소멸할까 걱정"

[미디어오늘 윤수현 기자]

▲지난 3월 페이스북에 올라온 새우 예수 관련 게시글.

한국에선 생소하지만, 해외에선 새우 몸통을 한 예수 사진이 페이스북에서 심심치 않게 등장하고 있다. AI를 통해 제작된 의미 없는 이미지가 SNS에서 확산되고 있는 것이다. 해외에선 이 같은 콘텐츠를 AI슬롭(Slop, 오물)이라 부를 정도로 기승을 부리고 있다. AI슬롭을 통해 인기를 얻은 페이스북 계정이 사기성 게시글을 올리는 경우도 있으며, AI슬롭이 SNS에서 퍼지면서 이용자들이 SNS 이용 자체를 기피할 수 있다는 우려까지 제기된다.

해외에선 페이스북 등 SNS를 중심으로 '새우 예수' 이미지가 퍼지고 있다. 새우 몸을 한 예수가 팔을 벌리고 있거나, 예수가 새우를 타고 바다를 건너는 사진이 SNS에서 퍼지고 있는 것이다. '새우 예수'뿐 아니라 콜라를 몸에 두르고 있는 아기, 치즈로 만들어진 버스 등 이미지가 SNS에서 확산되고 있다.

단순히 AI로 제작한 이미지를 올렸다고 볼 수도 있지만, 해외에선 이를 심각한 문제로 보고 있다. 가디언은 지난 5월 <스팸·쓰레기…슬롭? '좀비 인터넷' 배후에 있는 최신 AI 물결> 보도에서 “스팸과 마찬가지로 AI슬롭을 보고 싶어 하는 사람은 거의 없지만, 경제성 때문에 AI슬롭은 만들어지고 있다”며 “일부 이용자가 밈을 공유하거나 광고를 클릭한다면 제작 비용 회수가 가능하다. AI슬롭은 부정적인 효과를 가지고 있다”고 했다.

특히 AI슬롭으로 인해 SNS가 황폐화될 수 있다는 우려가 있다. AI슬롭이 확산된다면 이에 지친 SNS 이용자가 떠나게 되고, 결국 SNS에는 의미 없는 정보만 떠돌게 될 것이라는 지적이다. 인터넷 테크 전문언론 404미디어의 창립자 제이슨 코블러(Jason Koebler)는 가디언과 인터뷰에서 이 현상을 '좀비 인터넷'이라고 칭하며 “SNS는 AI와 사람이 뒤섞여 연결이 전혀 없는 비참한 웹사이트로 변했다”고 밝혔다. 가디언에 따른 AI슬롭에 대한 부정적 인식 때문에 이용자들이 SNS에 게재된 광고에 대해서도 부정적인 평가를 내리고 있다고 지적했다.

AI슬롭 문제는 페이스북에서 심각하다. CNN은 지난 3일 <당신만 그런 게 아니다. 페이스북에서 이상한 스팸이 올라오고 있다> 보도에서 “페이스북 이용자들이 AI가 생성한 것으로 보이는 스팸 콘텐츠에 불만을 제기하는 경우가 늘어나고 있다”며 “이 같은 콘텐츠는 성가심을 넘어 더 큰 문제로 이어질 수 있다. 일부 계정은 사기 행위를 하기 위해 만들어진 것으로 보이며, 극단적인 경우 (AI슬롭을 활용해) 팔로워를 확보한 계정은 선거를 앞두고 불화를 조장할 수도 있다”고 했다.

CNN은 페이스북이 2021년부터 정치·시사 콘텐츠 노출을 줄이면서 AI슬롭 노출이 증가했다고 분석했다. CNN은 “AI 생성 이미지가 페이스북의 올해 2분기 가장 많이 본 콘텐츠 목록에 올랐다. AI가 생성한 이미지에는 때때로 수천 개의 좋아요와 댓글이 달린다”며 “지금은 지역적인 문제이지만, 장기적인 우려가 존재한다”는 디지털 분석회사 메모티카(Memetica)의 벤 데커(Ben Decker) CEO 분석을 전했다.

▲사진=pixabay

롤링스톤은 지난 5일 <페이스북의 AI 스팸 문제는 생각보다 심각하다> 보도에서 “페이스북은 2010년대 초 디지털 라이프를 재편했으나, 지난 몇 년 동안 AI 이미지를 기반으로 한 마케팅 계정에 취약한 모습을 보이고 있다”고 했다. 페이스북 이용자가 고령화됐다는 점도 문제점으로 꼽힌다. AI슬롭 이미지를 엑스(트위터)에 업로드하는 한 이용자는 롤링스톤과 인터뷰에서 “페이스북은 일반적으로 고령화된 이용자와 기술을 잘 모르는 사람들로 가득하다. 가장 많은 좋아요를 받는 AI슬롭 게시물은 군인, 미국 국기, 예수 이미지 등 노인을 대상으로 하는 게시물”이라고 했다.

AI슬롭과 관련된 사기 사건도 발생했다. 롤링스톤에 따르면 지난 1월 페이스북 아이디를 해킹해 AI슬롭 이미지를 올려 수십만 명의 팔로워를 모으고, 이 페이지에 AI로 만든 건물 사진을 올리며 '주택건설 사업을 하니 투자하라'고 홍보한 사건이 발생한 것이다.

페이스북뿐 아니라 엑스에서도 AI 생성 콘텐츠가 확산되고 있다. 이 때문에 '죽은 인터넷 이론(Dead Internet Theory)이 현실화되는 것 아니냐는 우려가 나온다. 이는 인터넷 콘텐츠 대다수가 실제 사람이 아닌 AI 생성물로 채워진다는 이론이다. 포브스는 지난 1월 보도에서 엑스에 AI로 만들어진 의미 없는 콘텐츠가 확산되고, 많은 좋아요를 받고 있다면서 “이용자들은 엑스에서 난무하는 무의미한 AI 생성 콘텐츠에 대해 불만을 제기해왔다. 특히 최근에는 파리떼처럼 몰려든 AI봇들이 댓글 창을 무의미하게 바꾸고 있다”고 했다.

포브스는 “바다 표면에 떠다니는 거대한 플라스틱 쓰레기 섬처럼, AI가 생성한 쓰레기가 표면 위로 떠오르기 시작했다. 죽은 인터넷 이론까지는 아니어도, 음모론이 현실에 우울할 정도로 가까워질 수 있을 것 같다”고 했다. 실제 인터넷 보안업체 탈레스(Thales)가 지난 4월 발표한 보고서에 따르면 지난해 인터넷 트래픽의 49.6%가 AI 봇에서 발생했으며, 악성 봇과 관련된 트래픽 비중은 2022년 30.2%에서 지난해 32%로 증가했다.

이와 관련 이원태 아주대 사이버보안학과 연구교수는 “새로운 IT 기술이 나올 때마다 생기는 부작용 같은 건데, 문제는 악의적인 스팸 대응은 비교적 쉽지만 AI슬롭은 플랫폼 기업이나 이용자가 준비가 안 된 상태에서 범람했다는 차이점이 있다”며 “AI슬롭에 지속적으로 노출되면 플랫폼에서 이탈하는 이용자가 발생할 수 있다”고 했다. 이 연구교수는 “아직 AI슬롭이 심각한 문제가 돼서 사회적인 공론화가 이뤄지고, 플랫폼 기업에 책임을 요구하는 논의까지는 이어지지 않았지만 극단적으로 변질될 가능성이 있다”며 “SNS의 공론장 기능조차 소멸할까 걱정된다”고 밝혔다.