일상 파고든 AI영상 … 10명 중 6명 "구분 어려워"

캄차카에 아파트10층 높이 폭설
AI로 만든 영상 수백만 조회수
일부 언론 실제로 착각해 보도
가짜 의사 광고도…AI악용 확산

지난 1월 러시아 캄차카반도 폭설 당시 퍼졌던 AI 가짜 영상. 유튜브 캡처

지난달 60년 만의 폭설이 덮친 러시아의 캄차카반도. 온라인 플랫폼에서는 눈이 10층 아파트 높이까지 쌓여 사람들이 옥상에서 썰매를 끌고 내려오는 영상들이 여럿 등장했다. 영상에서는 방한복을 껴입은 러시아인들이 자연스럽게 썰매를 타는 모습이 담겼는데, 이 영상들은 곧 '러시아 캄차카, 아파트 높이 폭설'과 같은 제목으로 커뮤니티에서 퍼지기 시작했다.

유튜브와 틱톡 등에서 수백만 회의 조회수를 기록했던 해당 영상은 사실 인공지능(AI) 기술로 만든 가짜 영상이었다. 많은 사람은 이를 인지하지 못하고 사실로 받아들였으며, 일부 언론까지도 실제 영상으로 착각하고 보도하는 해프닝이 발생했다.

이처럼 기술 발전에 따라 AI 콘텐츠가 예전보다 정교해지면서 이용자들이 실제 현실과 콘텐츠 사이에서 혼란을 겪는 현상이 확산되고 있다.

최근 시장조사전문기업 엠브레인 트렌드모니터가 전국 만 13~69세 남녀 1200명을 대상으로 AI 생성 콘텐츠 소비 경험을 조사한 결과에 따르면 과반의 응답자가 AI 콘텐츠와 사람이 만든 콘텐츠를 구분하기 어려워하는 것으로 나타났다.

51.3%의 응답자가 AI 생성 콘텐츠를 접했을 때 이를 모르고 지나칠 때가 종종 있다고 답했으며, 'AI가 만들었다'는 사실을 대부분 알아차린다고 답한 사람은 26.6%에 불과했다. 10대, 20대 등 젊은 세대는 상대적으로 AI 생성 여부를 알아차리는 비율이 높았으나 고연령층은 모르고 지나치는 경우가 많았다. 또한 10명 중 6명(62.3%)은 AI 콘텐츠를 사람이 직접 만든 콘텐츠로 인지했다가 나중에서야 AI 생성 콘텐츠임을 알게 되는 경우가 있었다고 말했다.

영상을 생성하는 AI 기술이 점차 개선되면서 이처럼 AI 콘텐츠와 그외 콘텐츠를 점점 구분하기 어려워지는 추세다. 1~2년 전만 해도 AI 영상에서는 사람의 손가락처럼 디테일을 부자연스럽게 묘사하거나, 일관성이 떨어지는 등의 허점이 많았으나 이 같은 단점도 빠르게 보완되고 있기 때문이다.

정교한 AI 생성물을 악용해 딥페이크 영상을 제작하는 문제도 부상하고 있다. 지난해 말 한국에서는 AI로 생성한 가짜 의사가 진짜 의사인 것처럼 의약품을 홍보하는 허위광고가 쏟아지면서 소비자들을 현혹하고 실제 피해로 이어진 사례가 발생한 바 있다.

글로벌 보안 기업 노드VPN의 최근 연구에서는 한국인의 45%가 딥페이크 등 AI 기술을 활용한 사기를 정확히 구별해내지 못하는 것으로 조사되기도 했다.

사람들이 AI 영상을 접하며 느끼는 피로감도 늘고 있는 것으로 나타났다. 엠브레인 조사에 따르면 85.1%의 응답자가 '최근 AI 생성 콘텐츠를 접하는 빈도가 눈에 띄게 늘어난 것 같다'고 답했으며, 52.6%의 응답자가 이에 대한 피로감이 점차 높아지고 있다고 밝혔다.

AI 콘텐츠로 인해 재미있는 콘텐츠가 많아진 것 같다는 답변도 과반을 기록했으나, 'AI 콘텐츠로 인해 지나치게 자극적인 콘텐츠가 많아지는 것 같아 우려된다'(75.9%), '실존 인물로 만든 AI 콘텐츠는 왠지 모를 거부감이 느껴진다'(61.7%)고 답한 응답자도 많았다.

AI로 무분별하게 생성되는 저품질 콘텐츠를 뜻하는 'AI 슬롭'에 대한 사용자들의 불만이 커지면서 유튜브는 관련 채널을 삭제하는 등 플랫폼 업계도 대응에 나서고 있다.

닐 모한 유튜브 CEO는 올해 최우선 과제로 'AI 슬롭과의 전쟁'을 꼽으며 "저품질·반복형 AI 콘텐츠의 확산을 줄이기 위해 적극적으로 노력하겠다"고 밝힌 바 있다.

[정호준 기자]