민주주의 위협하는 'AI 가짜뉴스'에 칼 뺀 구글 "선거광고 AI 활용 표시해야"

구글 "선거광고에 AI 활용 땐 표시 의무화"
일반 유튜브 영상엔 해당 안 돼...한계 뚜렷

도널드 트럼프 전 대통령과 앤서니 파우치 전 국립알레르기·전염병연구소(NIAID) 소장이 서로 얼싸안고 있는 모습을 담은 영상이 6월 공화당 대선 주자 론 디샌티스 플로리다주 주지사 캠프와 연관된 한 사회관계망서비스(SNS) 계정에 올라왔다. 트럼프 전 대통령이 재임 시절 특별한 친분 때문에 파우치 전 소장을 해임하지 않았음을 시사하는 것이었는데, 이는 가짜로 밝혀졌다. 베리파이 유튜브 캡처

생성 인공지능(AI)이 만들어낸 가짜뉴스가 내년 미국 대선 등을 혼탁하게 만들 것이란 우려가 커지면서 구글이 선거 광고에 AI 사용 여부 표시를 의무화하기로 했다. AI를 이용해 날조한 영상이나 음성이 갈수록 감쪽같아지자 AI발 가짜뉴스의 위협이 극에 달할 것으로 예상되는 내년 대선을 앞두고 대응책을 내놓은 것이다.

구글은 6일(현지시간) 성명을 통해 "선거 광고에 디지털 방식으로 변경되거나 생성된 자료가 포함된 경우 광고주가 이를 공개하도록 의무화하는 정책을 도입할 예정"이라고 했다. 이에 따라 구글에 선거 광고를 하려는 광고주들은 생성 AI를 써서 생성하거나 합성한 경우 AI를 사용했다는 사실을 광고에 '눈에 띄게' 표시해야 한다. 기존 이미지 프로그램으로도 할 수 있는 간단한 보정 작업 등은 적용받지 않는다. 이 같은 정책은 미국 대선(2024년 11월)을 1년 앞둔 11월부터 시행될 예정으로 구글은 "(이 조치가) 유권자가 올바른 정보에 입각한 결정을 내리는 데 도움이 될 것"이라고 설명했다.

이날 구글의 발표는 AI가 선거에 악용되는 것을 막기 위해 주요 인터넷 업체가 내놓은 첫 조치로 평가된다. 7월 백악관이 "구글·메타·마이크로소프트(MS)·오픈AI 등 AI 기업 7개사가 AI로 만든 콘텐츠에 워터마크를 넣는 자발적 조치를 취하는 데 합의했다"고 발표했지만 이는 선거를 겨냥한 것은 아니었다.

---

미 대선 경선판에도 등장... 커지는 AI 가짜뉴스의 위협

5월 미 국방부 청사 펜타곤에서 검은 연기가 피어오르는 사진이 트위터에서 빠르게 확산했다. 이 사진은 인공지능(AI)이 만든 가짜 이미지로 추정됐다. 심지어 해당 건물은 실제 펜타곤도 아닌 것으로 확인됐다. 트위터 캡처

구글이 AI 사용 여부 표시를 강제하겠다고 나선 건 그만큼 가짜뉴스가 크게 늘고 진위 가리기도 더 어려워지고 있기 때문이다. 챗GPT로 대표되는 생성 AI의 등장 이후 가짜뉴스는 더 큰 위력을 떨치고 있다. 전문가가 아닌 사람도 AI를 이용해 가짜 이미지나 영상, 음성을 정교하고 빠르게 대량 생산할 수 있게 되면서다.

AI가 제작에 개입한 콘텐츠는 이미 선거판에 등장해 유권자들의 혼란을 키우고 있다. 6월 공화당 대선 주자 론 디샌티스 플로리다주 주지사 캠프와 연관된 한 사회관계망서비스(SNS) 계정에는 도널드 트럼프 전 대통령과 앤서니 파우치 전 국립알레르기·전염병연구소(NIAID) 소장이 서로 얼싸안고 있는 모습을 담은 영상이 올라왔다. 트럼프 전 대통령이 재임 시절 친분 때문에 파우치 전 소장을 해임하지 않았음을 시사하는 것이었는데 이는 가짜로 밝혀졌다. 최근에는 디샌티스 주지사가 "대선 경선을 포기하겠다"고 발언하는 장면이 담긴 영상이 퍼지기도 했다. 이 역시 트럼프 전 대통령 지지자 측이 만든 것으로 추정되는 허위 영상이었다.

다만 구글의 AI 사용 여부 표시 의무화는 선거 광고에만 적용될 뿐 유튜브 이용자들이 올리는 영상 등은 해당되지 않는다는 점에서 한계가 뚜렷하다. 지지자들이 만들어 돌리는 가짜뉴스의 확산은 막기 어렵다는 얘기다.

이 때문에 미 당국은 규제 마련을 서두르고 있다. 척 슈머 민주당 상원 원내대표는 13일 미 의회에서 비공개로 AI 인사이트 포럼을 연다. 순다르 피차이 구글 최고경영자(CEO)와 샘 올트먼 오픈AI CEO, 마크 저커버그 메타 CEO, 엑스(옛 트위터) 소유주인 일론 머스크 테슬라 CEO 등이 총출동해 AI 위험 대처 방안을 논의할 예정이다.

실리콘밸리= 이서희 특파원 shlee@hankookilbo.com