전쟁 가짜뉴스 온상 지적에 SNS 부랴부랴 대책 쏟아내

메타, 특별운영센터 꾸려
폭력 게시물 80만개 지워
엑스도 하마스 계정 삭제

◆ 통제불능 딥페이크 ◆

인스타그램과 페이스북 운영사인 메타는 이스라엘·하마스 전쟁과 관련된 '가짜뉴스' 차단을 강화하고 나섰다. 이번 전쟁과 관련해 사회관계망서비스(SNS)가 가짜뉴스의 온상으로 지목되면서 나온 후속 조치다.

메타는 지난 13일(현지시간) 블로그를 통해 "폭력적인 게시물과 가짜뉴스를 차단하기 위한 정책을 강화하고 있다"며 구체적인 조치를 소개했다. 우선 메타는 '특별운영센터'를 구성해 폭력적이고 노골적인 콘텐츠에 대응하고 있다고 밝혔다. 특별운영센터는 히브리어와 아랍어에 능통한 전문가들로 구성됐다. 79만5000개 이상 콘텐츠를 삭제하거나 불온한 게시물로 표시했다고 메타는 밝혔다. 메타는 자사 정책을 위반한 특정 인스타그램 해시태그는 검색할 수 없게 하고, 과거 정책 위반자는 페이스북과 인스타그램 라이브 사용을 제한하기로 했다.

유럽연합(EU)은 앞서 지난 11일 주요 SNS 플랫폼에 가짜뉴스를 방지하기 위해 취하고 있는 구체적 조치에 대해 답변하라고 요구한 바 있다.

EU는 8월부터 SNS 플랫폼에 가짜뉴스 및 폭력적 콘텐츠 유통을 막기 위해 SNS 규제법인 디지털서비스법을 시행했다. 해당 법에 따르면 SNS 플랫폼은 유해·불법 콘텐츠를 신속히 제거하고 예방할 수 있는 시스템을 마련해야 하고, 위반 시 연간 글로벌 수익의 최대 6%를 과징금으로 낼 수 있다.

X(옛 트위터)도 EU에 보낸 회신에서 "하마스 공격 후 수만 개 콘텐츠를 삭제하거나 오해의 소지가 있는 콘텐츠임을 알리는 라벨을 붙였다"고 밝힌 바 있다. X 측은 "분쟁이 시작된 후 하마스 연계 계정 수백 개를 확인해 삭제했다"며 "우리는 선제적으로 대처하면서 해당 계정들을 실시간으로 삭제하고 있다"고 설명했다.

이와 관련해 인공지능(AI) 딥페이크에 대항하는 방패도 개발되고 있지만 기술 발전과 적용 속도가 더디다는 평가다. 챗GPT를 만든 오픈AI는 생성형 AI를 찾아낼 수 있는 '클래시파이어'를 지난 2월 출시했다. 인텔은 영상이 딥페이크인지 가려내는 '페이크캐처'라는 기술을 지난해 11월 공개했다. 하지만 업계에서는 이러한 딥페이크 탐지 기술의 정확도가 진위 여부를 가려낼 수 있는 수준까지 올라와 있지 않다고 판단하고 있다.

한편 최근 들어 버추얼 휴먼(가상인간)이 등장하는 광고를 쉽게 접할 수 있는데, 사기성 가짜 영상들도 나돌고 있어 혼란을 불러일으킨다.

할리우드 배우 톰 행크스는 최근 AI가 만든 자신의 이미지가 동의 없이 광고에 쓰인 사실을 폭로했다. 그는 "조심하라! 내 AI 버전으로 치과 보험을 홍보하는 영상이 있다"며 "그 광고와 나는 아무런 관련이 없다"고 AI의 사기성 광고 문제점을 지적했다. CBS방송 진행자인 게일 킹도 최근 동의 없이 AI를 통해 만들어진 자신의 이미지가 체중 감량과 관련된 한 광고에 쓰였다고 주장했다.

분석업체 이머전 리서치에 따르면 전 세계 버추얼 휴먼 시장 규모는 2021년부터 연평균 36.4%씩 성장해 2030년에는 5275억달러(약 700조원)에 이를 것으로 전망된다.

[이상덕 기자 / 황순민 기자]