내가 만든 건 아니잖아?…딥페이크 광고 버젓이 내보내고 수익 챙기는 ‘얌체’ 빅테크

인공지능(AI)으로 제작한 딥페이크 광고들이 활개치고 있지만 이들의 온상인 빅테크들은 정작 책임을 미루고 있다.

유튜브 페이스북 인스타그램 등은 AI로 제작한 콘텐츠에 ‘생성·합성 여부’를 표시하는 라벨링을 적용하겠다고 지난 5월 선언한 바 있다. 하지만 이런 ‘꼬리표’ 정책과 무관하게, AI 딥페이크는 플랫폼 광고에서 그대로 노출되고 있다. 플랫폼이 방치하면서 문제점은 커지고 있다.

이들 딥페이크 광고는 특정 이벤트를 앞두고 기승을 부른다. 예를 들어 지난해 스페이스X가 ‘스타십 비행’을 예고할 당시, 한 딥페이크 채널은 광고를 통해 “일론 머스크가 곧 스타십을 발표한다”며 가짜 뉴스를 선보였다. 이런 구독자 유인용 딥페이크는 그나마 양호한 편이다. 일부는 카지노 광고다. 해외에 본사를 둔 카지노게임 운영사들은 한국 연예인들을 합성해 광고를 내보내고 있다. 블랙핑크 리사는 딥페이크 광고로 피해를 입기도 했다. IT 매체인 테크와이어는 “딥페이크 동영상에는 심지어 QR코드까지 삽입돼 있다”면서 “일부는 암호화폐를 보낼 것을 요구한다”고 꼬집었다.

문제는 외국계 플랫폼이 책임을 다하지 않는데 있다.

한국인터넷자율정책기구(KISO)에 따르면, 현재 가입한 회원사는 네이버 카카오 SK커뮤니케이션즈 KT알파 등이다. 외국계는 전무하다. 한 정보기술(IT) 업체 관계자는 “플랫폼에서 성인 인증을 한번만 받으면 불법 음란물을 언제든 볼 수 있다”면서 “반면 네이버나 다음은 실시간으로 송출되는 영상물에 대해 필터링이 이뤄지는 등 규제 강도가 극과 극”이라고 말했다.

이러한 무방비속에 딥페이크 광고로 피해를 보는 사람은 늘고 있다. 경찰청이 지난해 9월부터 리딩방 사기 피해액 집계를 시작한 이후 지금껏 피해 신고액은 5400억원을 넘어섰다. 리디방 상당수는 딥페이크를 활용, 이미지 등을 조작해 사람을 현혹한다.

광고 수익 상당수는 해외 플랫폼 몫이다. 유튜브는 광고를 통해 발생한 수익을 플랫폼과 콘텐츠 제작자 간에 약 45%대 55%로 분배한다. 수익 분배는 구글 애드센스 프로그램을 통해 관리된다. 예를 들어, 특정 딥페이크 제작자가 애드센스 프로그램을 활용해 100달러짜리 광고를 내보냈을 경우 유튜브가 45달러, 노출되는 채널의 유튜버가 55달러를 갖고가는 방식이다.

이런 비즈니스 모델은 딥페이크 제작을 촉발하기도 한다.

텔레그램은 지난 4월 ‘광고 수익화 기능’을 전면 도입했다. 1000명 이상 구독자를 보유한 공개 채널에 광고 수익 50%를 배분하는 방식이다. 구독자 확보를 통한 수익을 노린 사람들이 주변 지인을 성적으로 모욕하는 ‘링공방(링크공유방)’이나 사진을 나체로 합성하는 ‘봇공방(봇공유방)’을 만들면서 사태가 악화됐다.

더 큰 문제는 딥페이크를 활용해 악성 광고를 내보내는 광고주가 해당 링크를 클릭하면 국내 플랫폼 채팅방 등으로 유도한다는 점이다. 국내 플랫폼 운영사는 이에 따른 삭제 조치나 신고 절차 등을 마련하고 있지만, 해외 플랫폼의 강력한 제재 없이는 악성 광고를 방조하면서, 이에 따른 피해에 국내 플랫폼 운영사들이 골머리를 앓고 있다.

최근 페이스북에는 인플루언서이자 자산관리사인 유수진씨를 사칭한 광고가 등장했다. ‘무료로 10배 수익을 올릴 수 있다’고 현혹하는 허위 광고다. 해당 광고는 ‘인생에는 무한한 가능성이 있다’라며 첫날 0원에서 다섯째 날에는 800만원을 일일 수입으로 올릴 수 있다고 홍보하고 있다. 하지만 광고를 클릭하니 또 다른 안내 페이지로 연결하면서 ‘지금 무료로 밴드에 가입하라’라며 네이버에서 운영하는 네이버 밴드 채팅방으로 유도했다. 무료로 그룹 채팅방을 만들어 이용할 수 있는 네이버 밴드나 카카오톡 오픈채팅 등을 범죄에 활용하는 대표적인 수법이다.

네이버는 지난달 5일부터 ‘불법 리딩방’ 등 허위 투자 광고를 하거나 유사 투자자문 행위를 하는 경우 네이버 밴드 서비스 이용이 영구 정지하도록 정책을 마련했다. 카카오도 지난달 14일부터 불법 리딩방 운영 등을 카카오톡에서 금지하고 있다. 기자가 유수진씨를 사칭한 광고 링크를 활용해 네이버 밴드 그룹에 직접 가입하려고 하자, 초대가 금지된 상태였다. 국내 플랫폼업계들은 이처럼 삭제 등으로 대응하고 있지만, 상대적으로 느슨한 해외 플랫폼의 제재로 인한 악용 사례는 끊임없이 발생하고 있는 모습이다.

메타는 뉴스룸을 통해 “메타는 상당한 기술적, 인적 자원을 투입해왔으며, 정책을 위반하는 계정, 페이지 및 광고를 정지하거나 삭제하는 등 단속을 대폭 강화했다”라고 밝혔지만, 여전히 유사 광고가 횡행하며 아직 그 실효성을 확인하기 어려운 상황이다. 한 플랫폼 업계 관계자는 “페이스북 등에서의 범죄 목적이나 부적절한 내용의 광고들이 국내 플랫폼으로 넘어오고 있지만, 해당 광고에 올라오는 국내 플랫폼 링크 자체를 막을 수는 없다. 이는 해당 플랫폼에서 해야 하는 역할인데, 그런 부분들에서 애로 사항이 있다”라고 전했다.