“투표하지 말라”…바이든 목소리로 걸려온 전화, 알고보니 ‘AI’

당원들에 걸려온 ‘바이든 전화’
알고보니 AI로 만든 가짜목소리
州당국 “선거 방해행위” 수사

11월 미국 대선을 앞두고 인공지능(AI) 기술이 선거에 미치는 영향에 대한 우려가 커지는 가운데 미국 경선에서 실제로 이를 악용한 사례가 접수됐다.

23일(한국시간) 뉴욕타임스와 NBC 등 외신에 따르면 뉴햄프셔 프라이머리(예비경선)를 하루 앞둔 상황에서 뉴햄프셔 민주당 당원에게 투표하지 말라는 조 바이든 미국 대통령의 목소리가 담긴 전화가 걸려왔다.

뉴햄프셔 법무장관실에 따르면 가짜 녹음에는 “당신의 투표는 11월이 중요하다. 이번 화요일은 그렇지 않다”라는 내용이 담겼다.

이어 법무장관실은 “뉴햄프셔 대통령 예비선거를 방해하고 유권자들을 억압하려는 불법 시도로 보인다”며 “유권자들은 이 내용을 완전히 무시해야 한다”라고 밝혔다.

이처럼 AI 기술이 빠르게 발전하면서 이를 기반으로 한 가짜뉴스가 기승을 부리고 있다.

지난해 공화당은 바이든 대통령이 대선 출마를 발표했을 때 세상의 종말 시나리오를 담은 비디오를 생성하는 데 이 기술을 사용하기도 했다. 도널드 트럼프 전 대통령 역시 미국 경찰에게 체포당하는 가짜 이미지가 공개된 바 있다.

“백인 AI이미지, 실제보다 더 현실적이라 느껴”

AI로 생성된 사람 얼굴 사진이 실제 사람을 찍은 사진보다 더 진짜처럼 보이는 현상도 나타나고 있다.

최근 AI 이미지에 대한 여러 연구 결과에 따르면 AI 얼굴 사진과 실제 사람 얼굴 사진을 구분하도록 하는 실험 결과 AI 백인 얼굴 사진이 실제 사람보다 더 현실적인 것으로 인식되는 ‘극사실주의’(하이퍼 리얼리즘) 현상이 확인됐다.

실제로 최근 미국 일간 뉴욕타임스(NYT)가 기사에서 제시한 AI 백인 얼굴 사진 5장 중 4장은 연구 결과 실험 참가자의 89∼93%가 진짜 사진으로 착각한 것으로 나타났다.

이미지 생성 AI가 학습한 수만 장에 이르는 실제 인간 얼굴 사진의 대부분이 백인 얼굴이어서 백인 얼굴은 현실보다 더 현실적으로 나온다는 것이다.

그간 AI 사진은 양쪽 귀 모양이 다르다거나 하는 AI임을 숨길 수 없는 흔적이 통상적으로 있었다. 하지만 AI의 발전됨에 따라 AI 사진 속 얼굴의 모든 부분이 실제 사람의 평균적인 비율에 매우 가까워져서 실험 참가자가 AI인지 의심하지 못할 정도가 됐다는 것이다.

오히려 실험 참가자들은 실제 사람 얼굴 사진에서 귀 모양이 남들과 다르다든가 코가 평균치보다 더 크다든가 하는 등 평균 비율과 어긋나는 부분을 보고 AI 사진으로 착각하는 것으로 보인다고 NYT는 전했다.

이처럼 AI 사진이 실제 사람보다 더 진짜 사람처럼 보일 수 있다는 점에 전문가들은 깜짝 놀라고 있다.

호주국립대(ANU)의 에이미 다웰 교수는 이런 AI 사진이 가짜 메시지의 온라인 확산을 도울 수 있다고 우려했다.

다웰 교수는 “과도한 수준의 이런 자신감을 보고 놀랐다”며 “이는 인터넷에서 우리를 가짜 정보에 더 취약하게 만드는 사고방식을 암시한다”고 설명했다.

김채현 기자

서울신문