경찰에 '질질' 끌려간 트럼프?…구글 "정치 광고에 AI 썼는지 밝혀라"

#도날드 트럼프 전 대통령이 2020년 대선 직후 불복 시도 등의 혐의가 불거지면서 전직 대통령 최초 기소 가능성이 대두됐던 지난 3월. 온라인에 경찰에 쫓기다 붙잡힌 트럼프 전 대통령의 사진 몇 장이 올라왔다. 트럼프 전 대통령이 수갑까지 차고 경찰에 연행되는 모습이 담긴 이 사진은 가짜, 합성사진이었다.

지난 3월, 소셜미디어(SNS)에 유포된 경찰에 의해 연행되는 도널드 트럼프 전 대통령 이미지. 이는 AI기술로 합성·조작된 가짜뉴스로 밝혀졌다. /사진=구글

#지난 1월엔 조 바이든 대통령이 백악관에서 성소수자(LGBTQ)를 혐오하는 연설을 하는 영상이 소셜미디어(SNS)에 올라왔다. 이 또한 인공지능(AI) 기술로 바이든 대통령의 목소리와 영상을 딥페이크 기술로 조합해 만든 가짜뉴스였다.

구글이 2024년 대선을 앞두고 정치적 광고에서 AI를 사용한 경우, 시청자나 독자들이 명확히 인식할 수 있도록 표기해야 한다는 규정을 6일(현지시간) 발표했다. AI를 악용한 가짜뉴스가 판치는 걸 막겠다는 의도다.

미국 워싱턴포스트(WP) 및 영국 파이낸셜타임스(FT)에 따르면 구글은 "사람이 말하거나 행동하지 않은 걸 한 것처럼 보이는게 만들거나, 실제로 발생하지 않은 장면을 묘사하기 위해 영상을 변경한 경우, 해당 광고는 AI기술을 적용했음을 '눈에 띄게 표기(prominently disclose)' 해야 한다고 사례를 들어 설명했다"고 전했다.

구글은 미국 대선을 1년 앞둔 11월부터 이같은 지침을 적용할 방침이다. 다만 이번 규제는 '정치적 이득을 목적으로' 한 광고에만 적용된다는 게 구글 측 설명이다. 일반 콘텐츠는 대상이 아니다. 구글 측은 "광고에 사용된 이미지의 색 보정을 넘어선 변경에 대해 합성 콘텐츠라는 것을 밝혀야 한다는 원칙"이라고 설명했다. 그러면서 "이미 유권자를 속이는 딥페이크 콘텐츠를 금지했지만, 생성형 AI 챗봇 등장과 함께 이미지 조작 가능성이 커짐에 따라 이런 결정을 내렸다"고 덧붙였다.

FT는 이미 선거판에서 AI가 유권자를 속이는 사례가 등장하고 있다고 소개했다. 지난 7월, 론 드샌티스 플로리다주지사를 지지하는 한 단체가 만든 유튜브 계정 '네버 백 다운(Never Back Down)'을 통해 광고를 내보냈는데, 도널드 트럼프 전 대통령의 목소리를 재현한 내용이 포함된 바 있다. 얼핏 보면 트럼프 전 대통령이 론 드샌티스를 지지하는 것처럼 여겨질 수 있는데, 사실은 두 사람은 공화당 경선을 앞두고 경쟁 중이다.

지난 4월에는 미국 공화당 전국위원회가 AI 기술을 활용해 바이든 대통령이 연임에 성공할 경우 중국이 전쟁을 벌이고 불법 이민자들이 미국으로 몰려드는 가상의 모습을 담은 영상을 유튜브에 올리기도 했다.

앞서 백악관은 지난 7월 구글을 포함한 AI 선두기업 7곳이 AI로 생성·변조된 음성·영상 콘텐츠를 사용자가 구별하게 도와주는 디지털 '워터마킹' 시스템을 개발하기로 했다고 밝혔었다. 구글을 비롯해 마이크로소프트, 트위터, 메타 등이 참여한다. 백악관은 또 이들과 척 슈머 민주당 상원 원내대표가 함께하는 'AI 인사이트 포럼'을 만들어 AI 규제 법안 초안을 작성 중이다. 슈머 원내대표는 "허위 정보와 저작권, 지식재산권 등에 있어 책임 있는 AI 시스템을 지원하고 AI 도구가 민주적 가치에 부합하도록 요구할 것"이라고 말했다.

김하늬 기자 honey@mt.co.kr