‘AI 가짜뉴스’ 우려에 페이스북 “선거 광고에 AI 사용 안밝히면 거부”

앞서 구글도 표시 의무화 발표

2024년 미국 대선을 1년 앞두고 소셜미디어 페이스북 모회사 메타는 내년부터 정치 등의 광고에 다른 기업의 AI 기술을 사용한 경우 이를 공개하도록 전 세계 광고주에게 요구할 것이라고 8일(현지 시각) 밝혔다. 앞서 미국의 인공지능(AI) 선두 기업 중 하나인 구글도 지난 9월 미 대선과 관련한 콘텐츠에 AI 기술 등이 쓰였을 경우 이를 밝히도록 요구할 방침이라고 밝힌 바 있다. AI로 진짜처럼 합성한 ‘딥페이크(deep fake)’ 사진이나 영상이 선거에 영향을 미칠 수 있다는 우려가 커지는 가운데 미 정부·의회와 함께 업계에서도 잇따라 대책이 발표되고 있다.

페이스북 모회사 메타. / 로이터 연합뉴스

이날 메타는 내년부터 페이스북 등 메타의 소셜미디 플랫폼에 정치 광고를 하기 위해서는 AI 도구 사용 여부를 공개해야 하고, 그렇지 않을 경우 광고는 거부될 수 있다고 밝혔다. 또 광고 승인이 되면 AI 도구로 제작됐다는 정보가 광고에 표시된다고 밝혔다. 이와 함께 정치나 사회적 이슈 광고 및 주택·고용·제약·금융 서비스 관련 광고를 제작할 때에는 자사의 AI 기술을 지원하지 않기로 했다. 메타는 “잠재적으로 민감한 주제와 관련된 광고에 생성형 AI를 사용할 때 올바른 보호 장치를 구축할 수 있을 것으로 믿는다”고 했다.

메타에 따르면 소셜미디어 글에서 실제 인물이 하지 않은 행동이나 말을 하는 것처럼 묘사하거나 존재하지 않는 실제 인물을 디지털로 제작하는 경우 “AI를 사용했다”는 사실을 눈에 띄게 공개해야 한다. 또 실제 일어나지 않은 사건을 보여주거나, 실제 사건의 영상을 변경할 경우에도 같은 절차를 거쳐야 한다.

트럼프 전 대통령의 부인 멜라니아 트럼프가 소리 지르는 '가짜 사진'. 영국의 탐사 매체 창립자 엘리엇 히긴스가 AI를 활용해 만든 것이다. 이 사진을 비롯해 트럼프가 경찰에 체포되는 가짜 사진들이 지난 3월 소셜미디어로 유포됐다. 당시 "트럼프가 경찰에 체포됐다"는 가짜 뉴스가 급속히 확산됐다. /엘리엇 히긴스 X(옛 트위터)

그간 페이스북은 미 민주·공화 진영 모두에서 “정치 광고들을 제대로 관리하지 못하고 있다”는 비판을 받아왔다. 특히 지난 2016년 페이스북은 러시아가 광고를 통해 미 대선에 개입하는 것을 사실상 방치했다는 비판을 받았었다. 지난 2020년 대선을 앞두고 메타는 4개월간 정치 광고를 받지 않았다.

앞서 백악관은 지난 7월 구글을 포함한 AI 선두기업 7곳이 AI로 생성·변조된 음성·영상 콘텐츠를 사용자가 구별하게 도와주는 디지털 ‘워터마킹’ 시스템을 개발하기로 했다고 밝힌 바 있다. 디지털 워터마킹이란 사진 등 데이터에 저작권 등 정보를 삽입해 관리하는 기술을 뜻한다. 백악관은 “AI의 개발과 사용을 통제하는 강력한 국제 체제를 만들기 위해 동맹국들과 협력하겠다”며 한국·영국·호주·일본·이스라엘 등의 국가와 이미 논의를 진행 중인 것으로 전해졌다.