AI로 만든 ‘가짜 시술 사진·후기’ 온라인 범람...소비자 혼란

가상 모델 사진·글 꾸며 성형외과·미용실·데이팅앱 등 홍보
AI 홍보물 만들어주는 외주 시장도 호황…사진 장당 1만∼3만원

▲ 인공지능(AI) 모델로 홍보하는 성형외과 [인스타그램 캡처]

최근 생성형 인공지능(AI)이 대중화되면서 성형외과나 미용실 등 서비스 업계의 사회관계망서비스(SNS) 계정에 AI로 제작한 가짜 홍보물이 무분별하게 유포되고 있다. 그러나 이러한 가짜 후기 어디에서도 AI 생성 이미지라는 설명을 찾기는 어려운 실정이다.

이용자들의 실제 시술 후기가 선택의 절대적인 기준이 되는 업종의 특성상, AI 이미지를 실제 성공 사례처럼 속여 게시하는 행위가 늘어나면서 소비자들의 오인과 그에 따른 피해로 이어질 수 있다는 우려가 커지고 있다.

이러한 가짜 모델 홍보는 소개팅 애플리케이션(앱)에서도 쉽게 찾아볼 수 있다. 일부 앱은 AI 모델에게 특정 거주지나 대학, 직업 등의 허구 설정을 부여해 실제 회원인 것처럼 위장 홍보를 펼치고 있다. 프로필과 후기의 신뢰도가 중요한 소개팅 앱 시장에서 가짜 이미지의 확산은 업계 전반의 신뢰를 무너뜨릴 수 있다는 지적이 나온다.

AI 홍보물은 단순 모델 활용을 넘어 방송 조작으로까지 번지고 있다. 최근 SNS상에서는 일부 음식점이 유명 방송 프로그램에 출연한 것처럼 위장한 AI 합성 이미지를 올려 논란이 됐다. 노출이 있는 의상의 여성이 방송 인터뷰를 하는 듯한 모습이었으나 이는 실제 방송과 무관한 허위 이미지였다.

해당 업체는 논란 이후 사진을 삭제했으나 여전히 AI로 제작한 가짜 손님과 음식 사진을 홍보에 쓰고 있는 것으로 드러났다.

상황이 이렇다 보니 AI 모델 이미지를 전문적으로 제작해 주는 대행업계도 호황을 누리고 있다. 외주 서비스 플랫폼 등에서는 프리랜서들이 AI 광고 사진을 장당 1만원에서 3만원선에 제작해 주며 활동 중이다. 의뢰인이 원하는 연령과 외모, 분위기만 지정하면 그대로 AI 모델을 만들어내는 구조다.

이들은 모델 섭외나 촬영 비용 등 번거로운 과정을 절감할 수 있다는 점을 강점으로 내세운다. 이용 후기에는 AI 모델 컷만 매일 올리고 있으나 아무도 모른다거나, 직접 찍은 사진보다 품질이 좋다는 업주들의 반응이 줄을 잇고 있다.

이와 관련해 공정거래위원회는 AI 등으로 제작한 가상인물을 광고에 활용할 때 가상인물임을 반드시 표시하도록 하는 ‘추천·보증 등에 관한 표시·광고 심사지침’ 개정 절차에 착수했다.

개정안이 시행되면 가상인물의 추천이나 보증이 실제 경험적 사실에 기반하지 않았을 경우 부당한 표시·광고로 분류돼 제재를 받게 된다. 공정위는 관계 부처 의견 수렴과 전원회의 의결을 거쳐 해당 개정안을 최종 확정할 예정이다.