후기 믿고 샀는데…AI가 5초 만에 쓴 가짜 리뷰였다

■허위 정보에 소비자 주의보
AI 활용 리뷰생성기 수십개 범람
우산 입력하니 “3단 자동 초경량”
음식점 메뉴 종류·가격 틀리거나
상품과 무관한 내용도 자동 생성
플랫폼, 탐지기술 도입 제재 강화

“혼자 쓰기에는 충분히 넓고, 둘이서도 크게 불편함 없이 사용 가능해요.”

700자짜리 후기가 단 5초 만에 완성됐다. 생성형 인공지능(AI)인 챗GPT를 활용하는 한 리뷰 생성 전문 사이트에 ‘우산’이라는 단어 하나와 별점 8점만 입력하니 ‘3단 자동 초경량’ ‘방수 코팅 원단’ ‘넓은 면적’ 같은 실제 제품과 상관없는 용어까지 포함된 리뷰 한 편이 만들어졌다. AI는 ‘소나기 때문에 몇 번이나 편의점에서 우산을 샀던 30대 직장인’이라는 가상의 정체성까지 치밀하게 설정했다.

클릭 한 번으로 리뷰를 양산하는 AI 생성기 활용이 확산되면서 잘못된 정보에 대한 소비자들의 주의가 요구되고 있다. 상품이나 서비스 리뷰가 돈벌이 수단이 되면서 짧은 시간에 많은 리뷰를 만들어내기 위해 AI 생성기를 활용하고 있지만 상당수 리뷰가 실제 제품이나 서비스와는 다른 잘못된 정보를 제공하고 있기 때문이다.

-

25일 서울경제신문 취재진이 포털 사이트에 AI 리뷰 생성기를 검색하자 관련 사이트 수십 개가 쏟아졌다. 대체로 상품명과 2~3단어의 키워드를 간단히 입력하면 디자인과 성능, 내구성과 아쉬운 점을 담은 후기를 써줄 수 있다는 내용이었다. 네이버나 쿠팡 등 특정 쇼핑몰 전용 생성기부터 체험단 원고 작성기까지 종류도 세분화돼 있었다.

이런 AI 생성기의 인기는 ‘리뷰가 돈이 되는’ 플랫폼 환경에 맞춰 갈수록 높아지는 분위기다. 한 쿠팡 리뷰 생성 사이트의 경우 약 8600명이 이용 중이다. 온라인상에서는 ‘쿠팡 체험단 후기 3초 만에 쓰는 법’이나 ‘블로그 원고 자동 완성 노하우’처럼 부정 사용을 독려하는 정보도 공공연히 공유되는 실정이다.

이용자들은 통상 자신의 게시물을 통해 구매자가 유입될 경우 지급되는 수수료를 극대화하기 위해 생성기를 쓴다. 리뷰 속에 상품이나 서비스 링크를 걸어두고 소비자들이 해당 링크를 통해 구매하게 되면 수수료가 입금되는 방식이다. 이 때문에 리뷰를 많이 만들어 많은 제품에 걸어두는 것이 수익과 직결된다. 아울러 무상 협찬품을 대량으로 제공받아 AI 후기를 양산한 뒤 ‘단순 개봉품’으로 중고 시장에 되팔아 현금을 확보하는 방식도 비일비재한 것으로 알려져 있다.

그러나 상품을 실제로 써보지도 않은 채 작성된 후기들로 인한 피해는 소비자나 소상공인들에게 고스란히 전가되고 있다. 대학생 장 모(20) 씨는 “수수료 수익이나 체험단 혜택이 있는 곳에서 반복되는 표현이나 어색한 구조를 가진 AI 리뷰를 흔히 본다”며 “상품 설명과 다를 바 없는 후기를 걸러내느라 시간과 에너지를 낭비하고 있다”고 토로했다. 음식점 자영업자들이 모인 커뮤니티에는 메뉴 가격이나 소스 맛을 엉뚱하게 적은 체험단 블로거에 대한 성토가 잇따른다. 홍보를 위해 음식을 제공하고도 잘못된 정보 때문에 오히려 역효과를 볼 수 있어서다.

최근에는 출판 업계로까지 AI 리뷰가 번지고 있다. 본문에 없는 엉뚱한 이야기가 담겨 있거나 아직 출간되지도 않은 책에 대해 올라오는 감상평이 대표적이다. 출판사 마케터로 일하는 김 모(34) 씨는 “서로 다른 사람이 마치 짠 듯이 똑같은 리뷰를 올리거나 책에 없는 엉뚱한 이야기를 담기도 한다”며 “이런 후기를 볼 때면 독자와 책 사이의 첫 만남을 방해받는 기분”이라고 했다.

심각성을 인지한 플랫폼들은 단속을 강화하는 추세다. 네이버 스마트플레이스는 AI로 만든 가짜 영수증으로 허위 리뷰를 생성하는 사례에 대해 제재를 강화하겠다고 했으며 배달의민족은 허위 리뷰에 대해 AI를 활용한 자동 탐지 기술과 전담 조직을 가동 중이다.

하지만 전문가들은 플랫폼의 자정 노력만으로는 한계가 있다고 지적한다. 이영애 인천대 소비자학과 교수는 “가짜 리뷰는 소비자의 잘못된 선택을 유도하고 장기적으로 산업 전반의 신뢰를 무너뜨린다”고 경고했다. 그러면서 “사후 규제만으로는 부정행위를 통해 얻는 부당이득을 막기 어렵다”며 “허위 정보에 페널티를 부과하는 동시에 이를 식별할 수 있는 체계를 갖춘 기업에 인센티브를 주는 정책 설계가 필요하다”고 진단했다.

황동건 기자 brassgun@sedaily.com김지원 견습기자 one@sedaily.com