AI가 만든 ‘가짜’ 농민·농산물 사진까지…

온라인몰서 악용사례 나타나
수상내역·원산지 허위 표시도
산지불신 키워 소비위축 우려
인위적 생성물 규제마련 시급

인공지능(AI) 사진을 사용한 해당 광고의 모습. 농부의 오른쪽 손가락이 뾰족해 부자연스럽다. 또한 ‘김천 샤인머스캣 품평회’라는 존재하지 않는 대회에서 대상을 받았다는 허위 내용의 상장도 올라와 있다.

인공지능(AI)으로 만든 이미지를 진짜 사진인 것처럼 소비자를 속여 온라인에서 농산물을 판매한 사례가 나타나 논란이 되고 있다.

부산 남구에 사업장을 둔 통신판매업체 A사는 최근까지 네이버 ‘스마트스토어’와 카카오톡 ‘쇼핑하기’ 등 온라인 쇼핑몰에서 샤인머스캣·사과·감귤 등 과일을 판매해왔다.

A사는 해당 쇼핑몰에서 실제 농장주와 산지에서 직거래해 과일이 신선하고 맛이 좋다는 점을 강조했는데, 농부의 실명과 함께 얼굴 사진까지 섬네일로 사용함으로써 소비자에게 신뢰감을 형성해왔다.

존재하지 않는 농부 이름과 사진으로 판매해 소비자를 조롱하는 것 같아 불쾌하다는 한 고객의 리뷰.

하지만 본지가 해당 사진을 분석한 결과 AI가 생성한 이미지로 강하게 의심되는 정황이 포착됐다. 대표적인 것이 손가락 마디 부분이다. 비정상적으로 뾰족해 실제가 아닐 공산이 크다는 게 관련 전문가들의 얘기다.

상품 소개 내용에서도 허위로 의심할 만한 내용이 곳곳에 담겨 있다. A사가 판매한 샤인머스캣의 경우 해당 농가가 ‘김천 샤인머스캣 품평회’에서 2020년과 2022년 두차례에 걸쳐 ‘대상’을 받은 점을 강조하며 상장까지 사진으로 내걸었다.

하지만 본지가 경북 김천시에 문의한 결과 이러한 품평회는 존재하지 않는 것으로 확인됐다. 광고 말미에 있는 생산자 정보에도 광고 대상과 무관해 보이는 농가 정보가 기재돼 있었다. 광고에선 김천의 정○○ 농가가 직접 생산했다고 밝혔지만, 생산자 정보에는 이○○ 농가로 표기돼 있다.

해당 A사는 사과·감귤에 대해서도 AI가 생성한 것으로 보이는 이미지를 썼다. 또한 경북 문경에서 장○○ 농가가 생산한 사과라고 표기했지만 본지 확인 결과 실제 원산지는 경북 청송인 것으로 나타났다.

해당 제품의 후기엔 ‘속은 것 같다’는 원성이 빗발치듯 올라와 있었다. “맛은 그냥저냥 먹을 만했지만 AI 사진을 사용해 존재하지도 않는 농부의 이름까지 걸고 판매하는 걸 보니 사기당한 것 같다” “소비자를 조롱하는 것 같아 불쾌하다”는 반응이 주류를 이뤘다. 또 다른 후기엔 “손 모양을 살펴보면 실제 사진이 아닌 것 같은데 소비자 기만이 심하다”고 나와 있다.

소비자 민원이 제기돼서인지 해당 업체의 판매는 28일 기준 중단된 상태다. 전문가들은 무분별한 AI 기술 사용이 산지에 대한 불신을 키우고 나아가 농산물 소비 위축으로 이어질 수 있다고 우려했다.

박길식 한국폴리텍대학 AI응용소프트웨어과 교수는 “미국·유럽·중국 등 세계 여러곳에서는 이미 AI로 생성된 산출물에 워터마크·메타데이터·라벨링 등을 표시해 인위적으로 생성됐음을 공개하도록 하고 있고, 법 위반에 대해 과징금을 무겁게 정해 강력히 제재하고 있다”고 말했다. 그러면서 “A사 사례는 우리나라 농업분야에도 소비자 피해를 최소화하기 위해 생성형 AI 관련 규제가 시급히 도입돼야 한다는 것을 말해준다”고 지적했다.