의사가 추천한다더니…AI 광고에 우는 소비자

AI로 제작한 가짜리뷰·과장광고
무방비 노출돼 소비자 '속수무책'

인공지능(AI)이 쇼핑 패러다임을 편리하게 바꾸고 있지만 부작용도 만만치 않다. AI를 악용한 가짜 후기 및 과장 광고가 확산하고 있어서다. 생성형 AI는 사용자 리뷰 등을 기반으로 상품 추천 알고리즘을 짜기 때문에 이런 가짜 후기를 걸러내지 못하면 소비자 피해가 더욱 커질 것이란 우려가 나온다.

미국 금융사 캐피털원 산하 쇼핑 플랫폼인 캐피털원쇼핑은 작년 말 발표한 보고서에서 AI가 생산한 가짜 리뷰로 인한 전 세계 소비자 피해 규모가 지난해 7707억달러에서 2030년 1조700억달러로 증가할 것으로 전망했다. 보고서는 소비자의 약 82%가 평균적으로 1년에 1회 이상 AI가 작성한 리뷰에 노출된다고 분석했다. 가짜 리뷰 증가 속도는 전체 온라인 리뷰보다 12% 더 빠른 것으로 나타났다.

AI 콘텐츠 검증 플랫폼 기업 오리지널리티AI는 2024년 연말 쇼핑 시즌 아마존, 월마트, 베스트바이 등 미국 e커머스 자사 쇼핑몰에 게시된 전자제품, 장난감, 의류 등의 제품군 897개 후기 중 약 11.5%가 AI가 생성한 리뷰인 것으로 집계됐다고 밝혔다. 가짜 리뷰 비중이 10% 이상이란 얘기다. 매들린 램버트 오리지널리티AI 마케팅·영업 책임자는 “AI가 작성한 리뷰는 가짜 리뷰로 신뢰성이 떨어져 문제가 심각하다”고 지적했다.

국내에서 AI를 활용한 과장 광고 적발 사례도 잇따르고 있다. 식품의약품안전처는 지난해 10~12월 온라인 광고를 조사해 과장·부당 광고한 식품업체 16곳을 적발했다. 이들은 AI로 식품 효능을 과장해 의약품처럼 광고하거나 가짜 전문가를 내세웠다. 유튜브와 인스타그램 등에서 AI로 제작한 ‘가짜 의사’ 영상이 확산하며 소비자 피해가 속출하고 있다. 한 소비자는 “진짜 의사가 추천하는 루테인인 줄 알고 구매했는데 알고 보니 AI 의사였다”며 “최근 숏폼 광고에 등장하는 의사가 실제 전문가인지 AI로 만든 인물인지 구분하기 어렵다”고 토로했다.

유통업계 관계자는 “AI 광고 등장으로 국민이 허위 정보에 무방비로 노출될 위험이 점점 커지고 있다”며 “AI가 만든 가짜 광고, 과장 광고에 속지 않도록 경계를 강화해야 한다”고 강조했다.

이소이 기자 claire@hankyung.com