“이것 먹으면 10㎏ 빠져요”… 이 의사, AI가 만든 가짜였다

유튜브 등 건강 광고 19%가 딥페이크

소셜미디어(SNS)에 돌고 있는 다이어트 약 광고. 광고 속 의사는 AI(인공지능)로 만든 가짜다. /인스타그램 캡처

“갱년기 굳은 지방은 운동과 식단으론 절대 못 빼요. 그런데 이것만 먹으면 10㎏ 이상 빠집니다.”

5일 인스타그램에 뜬 한 영상을 클릭하자 16년째 비만 클리닉을 운영하는 의사라고 소개한 남성이 이렇게 말했다. 얼핏 보면 의사가 출연한 건강 정보 영상같이 보이지만 AI(인공지능)로 합성해 만든 ‘딥페이크(deepfake)’였다. 영상 속 의사가 내놓은 “임상 참여자 전원이 4개월 만에 평균 15㎏ 이상 감량했다” “섭취 지방의 9배를 배출한다”는 주장도 근거 없는 내용이었다.

소셜미디어에서 의료인을 사칭한 ‘가짜 의사’발(發) 광고가 늘고 있다. 건강 정보 프로그램을 짧게 편집한 것처럼 위장하지만 실제로는 AI로 만든 가공 인물들이 등장하는 영상이다. 이런 영상들은 대부분 “큰일 납니다” “조심해야 합니다” 같은 문구를 덧붙여 소비자의 불안을 자극한다. 본지가 5일 AI 전문가들과 함께 영양제 업체 3곳이 인스타그램·페이스북·유튜브에 올린 건강 관련 광고 3731건을 분석해 봤더니 695건(18.6%)이 AI로 생성된 가짜 의사가 한 광고였다.

그래픽=백형선

AI 영상은 이미지·영상을 제작해주는 생성형 AI 사이트에 접속해 원하는 명령어만 입력하면 1분 만에 만들 수 있다. 전문가들은 “피부 주름이 사라졌다 생기거나, 목소리 톤이 지나치게 일정한 점, 입 모양이 대사와 맞지 않으면 AI 영상”이라며 “그러나 일반 소비자가 이런 특징을 세세하게 구분하기는 쉽지 않다”고 했다. 이런 광고를 자동으로 걸러내는 소셜미디어 서비스도 아직 없는 상황이다.

전문가들은 디지털 환경에 익숙하지 않은 60·70대가 이런 AI 영상 광고에 취약하다고 했다. 최근 AI로 생성된 영상을 보고 건강 제품을 구매한 허모(62)씨는 “영상 속 전문가가 보장하니 믿고 샀는데 가짜인지는 꿈에도 몰랐다”고 했다. 인터넷 커뮤니티 등에선 “부모님이 의사·약사가 추천하는 영양제 영상을 보고 제품을 주문해 약국에 갔더니 성분이 확인되지 않아 위험하니 복용하지 말라는 이야기를 들었다”는 글이 잇따라 올라오고 있다.

노골적으로 허위 사실을 내세워 상품을 광고하는 콘텐츠도 많다. 유튜브에는 ‘천연 성장 주사로 키 169㎝에서 183㎝ 만든 비법’이라는 자막과 함께 “이 원료를 먹으면 성장호르몬이 두 배로 폭발한다”는 영상이 올라와 있다. “덴마크 고등학생이 네 달 만에 20㎝ 커져 성장 억제 주사를 맞았다”거나 “키가 180㎝ 이상이면 법으로 섭취를 금지한다”는 내용도 있다. 그러나 유럽에서 이런 일이나 법은 없다. 의료계에선 “의학적으로 특정 성분이 키를 급격하게 크게 한다는 건 허무맹랑한 이야기”라고 경고한다.

식품표시광고법 시행령에 따르면 의사, 한의사 등 의료인은 제품의 기능성을 보증하거나 제품을 추천·사용한다는 광고를 할 수 없다. 그러나 AI로 가상 의사를 만든 경우 이를 제재하는 규정은 아직 없다. ‘AI로 생성한 영상’이란 문구를 영상에 표기하면 혼란을 줄일 수 있지만 이런 의무를 부과하는 AI 기본법은 내년 1월 시행된다. 그러나 세부 하위 법령이 아직 공개되지 않은 데다, 소셜미디어 업체들이 서비스 품질 저하 등을 이유로 AI 생성 표기 의무화를 반대하고 있어 어느 정도까지 규제가 이뤄질지 불분명하다. AI 생성 영상도 식품표시광고법 규제는 받는다. 식약처는 불법 허위·과대광고 적발 시 방송통신심의위원회에 접속 차단 및 관할 기관의 행정 처분을 요청한다. 최대 10년 이하 징역 또는 1억원 이하 벌금에 처할 수 있다.

서울 지역의 한 내과 의사는 “진료실에서 ‘AI가 이렇게 말하던데 왜 의사는 다르게 말하느냐’며 잘못된 사실을 듣고 와 따지는 환자가 늘고 있다”고 했다. 대한의사협회 관계자는 “영리 목적으로 의사를 사칭해 거짓 광고를 하는 것은 명백한 사기 행위로, 국민 건강에 심각한 위해를 끼칠 수 있다”며 “허위 콘텐츠에 대해선 강하게 처벌할 수 있도록 법 개정이 시급하다”고 했다.