"치과 가지말고 이것 먹으라"던 S대 의사 알고보니…

더스쿠프 투데이 이슈
AI 생성 허위ㆍ과장 광고 범람
정부, AI생성물 표시제 도입하고
AI 이용한 허위 과장 광고 시
5배 징벌적 손해배상제 도입

"흔들리는 치아. 치과 오지 마세요. '이것'만 해도 꽉 잡힙니다." 마치 흔들리는 치아에 특효약이라도 되는 듯 구강유산균 제품을 추천하던 S대 치과전문의 송○○ 교수. 알고 보니 인공지능(AI)로 만든 가짜 의사였다. 키 크는 영양제라며 무려 21㎝나 성장한 한 청소년의 복용 전후 사진도 알고보니 AI로 키를 늘린 조작으로 드러났다.

AI생성 전문가를 활용한 식품 등의 부당광고 사례. [자료 | 국무조정실]

이처럼 AI를 활용한 허위·과장 광고가 범람하자 정부는 'AI생성물 표시 의무제'를 시행하기로 했다. 또 손해액의 최대 5배를 배상하는 징벌적 손해배상도 도입한다. 정부는 10일 김민석 국무총리 주재로 열린 국가정책조정회의에서 이같은 내용을 담은 'AI 등을 활용한 시장질서 교란 허위·과장 광고 대응 방안'을 발표했다.

정부가 관계부처 합동으로 종합 대책을 내놓은 이유는 온라인 플랫폼을 중심으로 AI 가짜 전문가나 딥페이크로 만든 유명인을 이용한 허위 광고가 식품과 의약품뿐만 아니라 다양한 영역에서 급증하고 있기 때문이다.

전문가인 척 제품을 권하는 방식으로 소비자를 현혹하는 것은 물론, 유명 연예인이나 스포츠 스타, 방송사 뉴스 화면 등을 AI로 합성해 온라인 도박 사이트를 마치 합법적 서비스인 것처럼 소개하는 사례까지 나오는 실정이다. 이런 콘텐츠들은 SNS 특성상 빠르게 유포되고, 소비자 오인 가능성도 높아 피해도 걷잡을 수 없이 커지게 마련이다.

정부는 우선 온라인 게시물의 AI 생성 여부를 명확히 표시하는 'AI생성물 표시제'를 도입하기로 했다. AI로 제작하거나 편집한 콘텐츠를 게시하는 사람은 반드시 AI 생성물임을 표시해야 하고, 플랫폼 사업자도 표시 의무 이행 여부를 확인해야 한다. 표시를 삭제하거나 훼손하는 행위는 금지된다. 정부는 내년 1분기 내로 정보통신망법 등을 개정해 표시제 도입과 가이드라인을 마련할 방침이다.

전문가인 줄 알았더니 AI 생성물 또한 AI가 만든 가상 의사나 교수 등이 제품을 추천하면서 본인이 가상인물이라는 사실을 표시하지 않은 광고는 부당한 표시광고로 간주된다. 특히 AI 전문가를 활용해 식품이나 의약품의 효능을 설명하는 광고는 소비자 기만에 해당하는 금지행위로 분류된다.

정부는 징벌적 손해배상 제도를 통해 인플루언서 등 일정 규모 이상의 정보 게재자가 허위·조작 정보를 악의적으로 유포한 경우 실제 손해액의 최대 5배까지 배상하도록 할 계획이다. 아울러 표시광고법상의 과징금을 상향해 위반행위의 경제적 유인을 낮추는 방안도 추진된다.

허위·과장 광고의 신속 차단을 위해 식품·의약품·화장품 등 AI 광고가 빈번한 분야를 방송미디어통신심의위원회의 서면심의 대상으로 포함시킬 방침이다. 이를 통해 심의 요청 후 24시간 내 결정을 유도할 계획이다. 또 식약처와 방미심위 간 전산 연계 시스템(패스트트랙)을 기존 마약류에서 다른 품목군까지 확대해 처리 시간을 줄일 예정이다.

긴급한 조치가 필요한 경우엔 방미심위의 정식 심의 전이라도 방송미디어통신위원회가 플랫폼에 임시 차단을 요청할 수 있는 체계를 도입한다. 정부는 생명·재산 피해 우려가 큰 사안에서 즉시 조치가 가능해지면서 허위 광고 확산을 방지할 수 있을 것으로 보고 있다.

이와 함께 식약처와 소비자원은 부당광고 감시 역량을 확대하고 AI 기술을 활용한 자동 모니터링 시스템을 도입해 온라인에서 유통되는 식·의약품 및 기타 부당 광고의 적발 속도를 높일 방침이다.

조봄 더스쿠프 기자
spring@thescoop.co.kr