“축구하면서 투자로 8000억 벌었다”...손흥민 투자 광고의 정체는

유명인 사칭 광고 피해자들 해결 촉구에도 사후 대응만...전문가 “AI 생성 콘텐츠 확률 표기법 도입해야”

유튜브 광고에 음성 복제·합성·변조 기술인 딥보이스 기술을 이용해서 만든 것으로 추정되는 축구 선수 손흥민 사칭 투자 광고가 등장하면서, 유튜브가 사전 필터링 없이 부적절한 광고를 사후적으로 처리하는 방식이 유명무실하다는 지적이 나왔다. 해당 광고는 16일쯤부터 유튜브 영상 광고로 등장하기 시작했다.

16일 한 뉴스 채널 유튜브 라이브 영상에 앞서 등장한 손흥민 선수 사칭 광고./유튜브 캡쳐

화면에 손흥민 사진과 함께 나오는 음성은 손 선수의 것이었으나, 다소 어색한 말투로 “축구 선수로서 활약하는 동안 투자에도 많은 년 동안 참여해왔습니다. 투자 참여 시 사인이 담긴 사진을 무료로 받을 수 있습니다”라며 홈페이지 클릭을 유도했다. ‘많은 년’은 ‘수년간’이란 표현이 어색하게 번역된 것으로 추정된다.

‘즉시 가입’이란 뜻의 중국어 버튼을 클릭하면 홈페이지에 접속된다. 홈페이지에는 ‘나는 손흥민입니다’ ‘제 투자 수익은 8000억 원을 넘어섰습니다. 제 나눔에선 간단하고 효과적인 투자 전략을 소개하고, 여러분에게 영감과 도움을 주기를 희망합니다’라며 어색한 번역 투 문장이 유사하게 반복 나열 돼 있다. 이어 ‘제 인스타그램 팔로워가 1400만을 돌파했다는 기념으로 4월에 최신으로 폭등한 3가지 블루칩 종목을 공유하고 있다’며 카카오톡 채널 추가와 연락을 유도했다.

이처럼 버젓이 사칭 광고가 올라올 수 있는 까닭은 구글 애즈(Google Ads)로 유튜브 광고 게재 시 광고 등록자가 실제 사칭하는 인물 혹은 대리인인지 확인하는 등 사전 심의를 하지 않기 때문이다. 유튜브는 성인용 콘텐츠, 유해하거나 위험한 행위, 부정행위 조장 등 내용이 담긴 광고는 게재할 수 없다는 가이드라인과 함께 지난 3월 사칭 광고를 용납하지 않겠다는 내용의 가이드라인을 발표한 바 있다. 하지만 여전히 돈만 내면 사칭하는 광고를 아무런 제재 없이 게재할 수 있는 것이다.

그보다 앞서 지난 2월 구글은 ‘허위 진술 정책’을 갱신하여 ‘3월부터 돈이나 정보와 관련해 대중적으로 알려진 인물, 브랜드, 단체를 사칭하면서 이용자들을 유인하는 행위’를 포함시켰다. 이에 따라 사칭 광고를 유튜브에 게재한 계정은 감지된 즉시 경고 없이 정지되고, 다시 광고를 게재할 수 없게 된다. 더불어 구글은 지난해 8월말부터 ‘제한적 광고 게재 정책’을 도입해 ‘신뢰할 만한 행동에 대한 실적이 없는 광고주에 대해서는 “광고주 파악 기간”을 도입하겠다’면서, ‘딥페이크 기술 등 유명인을 사칭해 이용자를 속이는 광고를 전담하는 팀을 구성해 자동화된 집행 모델을 훈련시킨 결과 2억 650만 개의 광고를 차단 또는 삭제하는 성과가 있었다’고 밝히기도 했다.

지난달 22일 개그맨 황현희, 존 리 전 메리츠자산운용 대표, 김미경 강사, 개그우먼 송은이, 주진형 전 한화투자증권 대표, 한상준 변호사가 서울 중구 프레스센터에서 '유명인 사칭 온라인 피싱 범죄 해결을 위한 모임' 기자회견을 갖고 있다./연합뉴스

하지만 유명인 사칭 광고는 피해 상황이 공론화 된 후에도 줄지 않고 있는 것으로 파악됐다. 김미경 대표, 존 리 전 메리츠자산운용 대표가 주도해 만든 유명인 사칭 온라인 피싱 범죄 해결을 위한 모임(유사모) 관계자는 “지난달 기자회견 이후에도 플랫폼에 사칭 광고가 계속 올라오는 상황”이라면서 “각 유명인을 맡은 팀에서 일일이 삭제 요청 조치를 취하고 있다”고 했다. 유사모는 지난달 22일 기자 회견을 열고 “플랫폼 측에 피해 사실을 적극적으로 얘기해도, 기업들은 현재 이와 같은 범죄 광고를 사전에 필터링 할 수 있는 시스템이 없고, 막대한 광고비만 지불하면 광고를 집행할 수 있다”며 문제 해결을 촉구한 바 있다.

경찰청 통계에 따르면 작년 9월부터 12월까지만 유명인 사칭 사기를 포함한 투자리딩방의 불법행위 피해 건수가 1000건이 넘고 피해액은 1200억원을 넘어섰다. 심각성을 인지한 정부와 관계 당국도 사칭 사기 피해를 줄이기 위해 나섰지만, 피해 구제가 신속히 이뤄지긴 역부족이란 우려가 나온다. 지난 9일 방송통신심의위원회에서도 각종 사칭 피해에 대해 제1호 이용자 피해주의보를 발령하면서 초상권 도용 정보와, 투자 자문을 유도하는 무등록, 무신고 업체들에 대해 강력 대응하겠단 의지를 밝혔다. 하지만 초상권을 도용 당한 당사자가 직접 신고 접수를 하거나, 대리인이 하더라도 도용 당사자 신분증 사본으로 신원을 인증해야 신고 접수를 할 수 있다. 제3자가 신청하는 경우, 피해 당사자의 시정요구 의사 확인을 받는 절차를 둔다. 민원이나 제보가 신속히 이뤄지더라도, 그 사이 피해자가 양산되는 것을 차단할 수는 없다.

전문가들은 딥보이스, 딥러닝 기반 AI 기술 발달 속도가 가파른 상황에서 온라인 플랫폼 기업이 사칭 광고를 구별할 수 있도록 생성형 AI 콘텐츠 식별 시스템을 도입해야 한다고 말한다. 숭실대 전자정보공학부 정수환 교수는 “EU·미국 등 해외에서는 AI가 생성한 콘텐츠에 워터마크를 강제로 표기하는 것을 법제화하는 움직임이 있지만, 범죄를 저지르려면 규제를 무시하면 그만”이라면서 “플랫폼 자체적으로 광고 영상이 업로드 되기 전에 딥페이크, 딥보이스 기술이 활용됐을 확률을 표기하는 기술을 도입할 필요가 있다”고 했다.