딥페이크 광고 판치든 말든 … 수익 절반 챙겨가는 빅테크

AI로 조작된 유명인·회사 등장
금융사기 악용되는 광고 넘쳐
광고 자체 불법성과 상관없이
빅테크가 수익 가져가는 구조
딥페이크 광고 피해사례 늘어
리딩방 사기 신고액만 5400억
해외 플랫폼 말뿐인 단속강화
불법광고 범람에 실효성 의심
카카오를 도용한 불법 리딩방 광고
재테크 인플루언서 유수진 씨를 도용한 딥페이크 광고

◆ 딥페이크 포비아 ◆

인공지능(AI)으로 제작한 딥페이크 광고들이 활개를 치고 있지만 이들의 온상인 빅테크들은 정작 책임을 미루고 있다. 유튜브 페이스북 인스타그램 등은 AI로 제작한 콘텐츠에 '생성·합성 여부'를 표시하는 라벨링을 적용하겠다고 지난 5월 선언한 바 있다. 하지만 이런 '꼬리표' 정책과 무관하게, AI 딥페이크는 플랫폼 광고에서 그대로 노출되고 있다. 플랫폼이 방치하면서 문제가 커지고 있다.

이들 딥페이크 광고는 특정 이벤트를 앞두고 기승을 부린다. 예를 들어 지난해 스페이스X가 '스타십 비행'을 예고할 당시, 한 딥페이크 채널은 광고를 통해 "일론 머스크가 곧 스타십을 발표한다"며 가짜뉴스를 선보였다. 이 같은 구독자 유인용 딥페이크는 그나마 양호한 편이다. 일부는 카지노 광고다. 해외에 본사를 둔 카지노게임 운영사들은 한국 연예인들을 합성해 광고를 내보내고 있다. 블랙핑크 리사가 딥페이크 광고로 피해를 입기도 했다.

문제는 외국계 플랫폼이 책임을 다하지 않는 데 있다. 한국인터넷자율정책기구에 따르면, 현재 가입한 회원사는 네이버 카카오 SK커뮤니케이션즈 KT알파 등이다. 외국계는 전무하다. 한 IT 업체 관계자는 "플랫폼에서 성인 인증을 한 번만 받으면 불법 음란물을 언제든 볼 수 있다"면서 "반면 네이버나 다음은 실시간으로 송출되는 영상물에 대해 필터링이 이뤄지는 등 규제 강도가 극과 극"이라고 말했다.

이러한 무방비 속에 딥페이크 광고로 피해를 보는 사람이 늘고 있다. 경찰청이 지난해 9월부터 리딩방 사기 피해액을 집계하기 시작한 이후 피해 신고액은 5400억원을 넘어섰다. 리디방 상당수는 딥페이크를 활용해 이미지 등을 조작하며 사람을 현혹한다.

광고 수익 상당수는 해외 플랫폼 몫이다. 유튜브는 광고를 통해 발생한 수익을 플랫폼과 콘텐츠 제작자 간에 약 45%대55%로 분배한다. 수익 분배는 구글 애드센스 프로그램을 통해 관리된다. 이런 비즈니스 모델은 딥페이크 제작을 촉발하기도 한다.

텔레그램은 지난 4월 '광고 수익화 기능'을 전면 도입했다. 1000명 이상 구독자를 보유한 공개 채널에 광고 수익 50%를 배분하는 방식이다. 구독자 확보를 통해 수익을 노린 사람들이 주변 지인을 성적으로 모욕하는 '링공방(링크공유방)'이나 사진을 나체로 합성하는 '봇공방(봇공유방)'을 만들면서 사태가 악화됐다.

더 큰 문제는 딥페이크를 활용해 악성 광고를 내보내는 광고주가 해당 링크를 클릭하면 국내 플랫폼 채팅방 등으로 유도한다는 점이다. 국내 플랫폼 운영사는 이에 따른 삭제 조치나 신고 절차 등을 마련하고 있지만, 해외 플랫폼은 강력한 제재가 없어 악성 광고를 방조하면서, 이에 따른 피해에 국내 플랫폼 운영사들이 골머리를 앓고 있다.

최근 페이스북에는 인플루언서이자 자산관리사인 유수진 씨를 사칭한 광고가 등장했다. '무료로 10배 수익을 올릴 수 있다'는 허위 광고다. 하지만 광고를 클릭하니 또 다른 안내 페이지로 연결되면서 '지금 무료로 밴드에 가입하라'며 네이버에서 운영하는 네이버 밴드 채팅방으로 유도했다. 네이버 밴드나 카카오톡 오픈채팅 등을 범죄에 활용하는 대표적인 수법이다.

네이버는 지난달 5일부터 '불법 리딩방' 등 허위 투자 광고를 하거나 유사 투자자문 행위를 하는 경우 네이버 밴드 서비스 이용이 영구 정지되는 정책을 마련했다. 카카오도 지난달 14일부터 불법 리딩방 운영 등을 카카오톡에서 금지하고 있다. 기자가 유수진 씨를 사칭한 광고 링크를 활용해 네이버 밴드 그룹에 가입하려고 하자, 초대가 금지된 상태였다. 국내 플랫폼업계는 이처럼 삭제 등으로 대응하고 있지만, 상대적으로 느슨한 해외 플랫폼의 제재로 인한 악용 사례는 끊임없이 발생하고 있는 모습이다.

메타는 "메타는 상당한 기술적·인적 자원을 투입해왔으며 정책을 위반하는 계정, 페이지 및 광고를 정지하거나 삭제하는 등 단속을 대폭 강화했다"고 밝혔지만, 여전히 유사 광고가 횡행하며 아직 그 실효성을 확인하기 어려운 상황이다.

<시리즈 끝>

[이상덕 기자 / 정호준 기자]