‘AI 가짜뉴스’ 우려에 구글 “선거 광고에 AI 사용 공개 의무화”

“AI 기술 사용했을 경우 사용자들이 이를 알 수 있도록 표시 강제”

미국 공화당 전국위원회가 지난 4월 AI(인공지능) 기술로 만든 영상. 조 바이든 현직 대통령이 재선된 것을 가정해 중국이 전투기로 대만을 폭격하고, 남부 국경 통제 실패로 곳곳에서 불법 이민자들이 국경을 넘는 가상의 모습들을 담았다. /공화당 전국위원회 유튜브

미국의 인공지능(AI) 선두 기업 중 하나인 구글이 6일(현지 시각) 내년 11월 미국 대선과 관련한 콘텐츠에 AI 기술 등이 쓰였을 경우 이를 밝히도록 요구할 방침이라고 밝혔다. 선거 광고가 AI를 이용한 경우 일반 유권자들이 이를 확인할 수 있도록 별도 표시를 하도록 강제하겠다는 것이다. AI로 진짜처럼 합성한 ‘딥페이크(deep fake)’ 사진이나 영상이 선거에 영향을 미칠 수 있다는 우려가 커지는 가운데 나온 조치다.

이날 구글은 대변인 명의 성명을 통해 “(AI기술 등을 이용해) 합성 콘텐츠(synthetic content)를 제작하는 도구의 보급이 증가함에 따라 (이 같은 조치를) 시행하게 됐다”며 “광고주들은 선거 광고에 디지털 방식으로 변경되거나 생성된 자료가 포함된 경우 이를 공개하도록 하는 정책을 한 단계 더 확대할 것”이라고 했다. 구글은 내년 대선으로부터 1년전인 오는 11월부터 이 같은 정책을 시행할 예정이다. 미 의회전문매체 더힐은 “이 같은 규정은 특히 공화당 경선 단계에서 쓰이는 선거 콘텐츠에 AI를 사용하는 것이 더욱 보편화됨에 따라 마련됐다”고 했다.

사진은 캘리포니아주 샌프란시스코에서 범죄가 급증해 미군이 중무장을 하고 순찰하는 모습. 화면 좌측 상단에 'AI (허위) 이미지가 이용됐다’는 자막이 있지만 크기가 작아 읽기가 힘들다. /공화당 전국위원회 유튜브

성명은 이어 “책임감 있는 정치 광고를 지원하고 유권자가 올바른 정보에 입각한 결정을 내리는 데 필요한 정보를 제공하는 데 도움이 될 것”이라고 했다.

구글에 따르면 선거 광고주는 선거 광고에서 실제 또는 사실적으로 보이는 사람, 혹은 사건을 AI를 통해 묘사할 경우 “AI를 사용했다”는 사실을 눈에 띄게 공개해야 한다. 다만 이미지 크기 조정이나 색상 보정 등 사소한 변경은 공개 요건에서 제외된다고 구글은 밝혔다.

구글은 “특정 인물이 특정 문구를 말하거나 행동하지 않았는데도 말하거나 행동하는 것처럼 보이게 하는 합성 콘텐츠가 포함된 광고는 공개가 필요하다”며 “실제 사건의 영상을 변경하거나 사건을 사실적으로 묘사한 광고도 공개 대상”이라고 했다.

앞서 백악관은 지난 7월 구글을 포함한 AI 선두기업 7곳이 AI로 생성·변조된 음성·영상 콘텐츠를 사용자가 구별하게 도와주는 디지털 ‘워터마킹’ 시스템을 개발하기로 했다고 밝혔었다. 디지털 워터마킹이란 사진 등 데이터에 저작권 등 정보를 삽입해 관리하는 기술을 뜻한다.

백악관은 “AI의 개발과 사용을 통제하는 강력한 국제 체제를 만들기 위해 동맹국들과 협력하겠다”며 한국·영국·호주·일본·이스라엘 등의 국가와 이미 논의를 진행 중이다.