"두 달 만에 -14kg 뱃살이 쏙"…다이어트 광고 알고 보니 딥페이크

홍유진 기자 2024. 10. 30. 13:55
음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

AI 활용 전후 사진 조작…정교해 소비자 구별 어려워
정부 단속한다지만…새 계정 만들어 광고하면서 피해가
ⓒ News1 DB

(서울=뉴스1) 홍유진 기자 = 소셜미디어(SNS)에서 다이어트 보조제 등을 과대광고하며 판매하는 사례가 횡행하고 있다. 최근에는 인공지능(AI)을 이용해 해당 식품을 먹고 체중이 빠진 것처럼 교묘하게 전후 사진을 조작하는 신종 수법까지 등장해 소비자 피해가 우려된다.

인스타그램 등 SNS 광고에는 '운동, 식단 없이 두 달 만에 14킬로(㎏) 뺐다', '10박스 먹고 딱 10㎏ 감량했다' 등의 다이어트 관련 광고가 노출되고 있다.

다이어트 보조제 광고에는 체중 감량 전후 사진이 빠짐없이 등장한다. 보조제를 먹기 전 고도비만에 가까운 몸에서 복용 후 날씬한 몸매로 변하는 식이다.

하지만 이 같은 광고 영상 중 상당수가 허위·과장 광고일 가능성이 높다. 제품 섭취만으로 단기간에 살을 빼는 게 사실상 불가능할뿐더러, 건강기능식품도 아닌 '일반 식품'에 불과한 제품이 대다수이기 때문이다. 체지방 감소 효과가 검증되지 않은 식품을 먹고 체중을 대폭 감량했다는 것처럼 소비자를 현혹하는 것이다.

30일 식약처에 따르면 최근 5년간 SNS에 다이어트 효과 있는 것처럼 허위로 꾸민 광고 적발 건수가 연평균 1900건에 달하는 것으로 나타났다. 적발되지 않은 건수까지 포함하면 실제 부당광고는 더 많을 것으로 추정된다.

특히 최근에는 AI 기술을 동원해 후기 사진을 조작하는 사례까지 등장했다. 딥페이크 기술을 활용해 비만한 몸에 얼굴만 합성하거나, 아예 몸매 자체를 교묘하게 변조하는 수법이다.

문제는 AI로 변조 이미지의 경우 일반 포토샵보다 훨씬 정교하기 때문에 소비자 입장에서 쉽게 구분하지 못한다는 점이다. 움직이는 영상에도 AI 기술을 적용이 가능하기 때문에 소비자가 진위를 구별하기 더욱 힘들다.

게다가 AI를 활용하면 포토샵 등 전문 기술이 없더라도 누구나 적은 비용으로 그럴듯한 조작 이미지를 만들 수 있다. 다이어트뿐만 아니라 키 크는 약, 성기능 보조제 등 각종 분야에서도 AI가 악용될 가능성도 배제할 수 없다.

인스타그램에 노출된 다이어트 광고에 대해 딥페이크 탐지를 의뢰한 결과 57.27% 확률로 조작된 영상이라는 결과가 나왔다. (딥브레인ai 제공)

실제로 뉴스1이 딥페이크 탐지 설루션 개발 기업인 딥브레인ai에 SNS에 노출되고 있는 다이어트 식품 영상 광고를 의뢰한 결과, 해당 광고 영상이 57.27%의 확률로 조작됐다는 판정이 나왔다.

언뜻 보기에는 실제 모델처럼 보이는 해당 광고에는 뚱뚱한 몸매의 한 여성이 뱃살을 흔드는 비포 영상이 나오고, 이내 날씬해진 몸매를 자랑하는 장면이 담겼다.

식약처 관계자는 "체지방 감소 효과가 인정되지 않은 식품인데도 AI로 이미지를 위변조해 단기간 체중 감량이 가능한 것처럼 광고하는 경우 표시광고법 위반으로 볼 수 있다"며 "온라인 부당광고에 대해 상시 모니터링을 하고 있다"고 말했다.

하지만 정부 단속에도 한계가 뚜렷하다. 식약처는 SNS 계정에서 부당 광고가 확인될 때마다 게시물 삭제·차단을 요청하고 행정처분에 나선다는 입장이지만, 얼마든지 계정을 새로 만들 수 있는 SNS 특성상 단속에 어려움이 있다. 설령 적발돼 차단되더라도 또 다른 SNS 계정을 만들어 다시 불법 광고를 하면 사실상 방법이 없는 셈이다. 땜질식 처방에 그치고 있다는 비판이 나오는 이유다.

식약처 관계자는 "불법 광고가 적발되면 방송통신심의위원회에 차단을 요청하는 식으로 대응하고 있다"며 "SNS는 해외에 서버를 두고 있는 경우가 대부분이고, 온라인 공간이다 보니 한계가 있는 게 사실이다"고 설명했다.

전문가들은 인공지능 등 기술 발전에 발맞춰 제도를 정비해야 한다고 조언한다. 김명주 서울여대 교수는 "소비자 피해를 방지하기 위해 AI로 제작한 콘텐츠에 대해 AI로 만들었다는 걸 의무로 표시하도록 법안이 필요하다"고 지적했다.

이은희 인하대 소비자학과 교수는 "온라인 공간이 사각지대가 돼서 과대광고로 인한 소비자 피해가 심각하다"며 "최근에는 인공지능 등 수법도 다양해지고 있기 때문에 기술 발전 속도에 따라 관련 규제를 정비해야 한다"고 강조했다.

cyma@news1.kr

Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.

이 기사에 대해 어떻게 생각하시나요?