내년은 47개국 선거의 해… “AI 가짜뉴스 쓰나미 온다”

이미 트럼프 가짜이미지 등 확산
음성·영상 조작 민의 왜곡 우려
전문가들 “선거판 흔들 것” 경고

워싱턴=김남석 특파원 namdol@munhwa.com

2024년 새해를 맞아 한국을 비롯해 미국·인도·유럽·러시아 등 전 세계 47개국에서 국가 단위 선거가 예정된 가운데 인공지능(AI)발 가짜뉴스가 선거 판도를 뒤흔들 수 있다는 경고음이 커지고 있다.

생성형 AI 기술로 클릭 몇 번에 가짜 영상·이미지·음성을 손쉽게 만들 수 있는 반면, 각국 정부·기업의 관련 규제는 미비해 “가짜 뉴스가 쓰나미처럼 덮칠 것”이라는 우려까지 제기됐다.

26일(현지시간) AP통신과 국제선거제도재단(IFES) 등에 따르면 내년에는 한국 총선(4월 10일)을 비롯해 미국 대통령선거(11월 5일), 인도 총선(4월 30일), 유럽의회 선거(6월 6일), 러시아 대통령 선거(3월 17일) 등 전 세계 47개국에서 선거가 진행된다. 하지만 이러한 국가 차원의 선거가 생성형 AI 기술 보급 이후 첫 번째 선거가 될 것으로 전망되면서 가짜뉴스가 어느 때보다 판칠 수 있다는 전문가들의 경고가 쏟아지고 있다. AI 전문가인 오런 에치오니 워싱턴대 명예교수는 “잘못된 정보가 쓰나미처럼 밀려올 것으로 예상한다”며 “대선후보인 조 바이든 대통령이 병원에 실려 가는 모습을 볼 수도 있고, 어느 후보자가 실제로 한 적 없는 말을 하는 것을 볼 수 있다”고 말했다. 일반 유권자들도 AI발 가짜뉴스 확산을 우려하고 있다. 11월 초 공개된 시카고대 해리스공공정책대학원과 AP·NORC 공동여론조사에서 미국 성인의 58%는 내년 대선에서 AI가 거짓 정보 확산을 증가시킬 것으로 우려했다.

AI가 만든 가짜뉴스는 이미 각종 선거에 영향을 미치고 있다. 최근 슬로바키아에서는 선거를 앞두고 자유주의 진영 후보가 맥주 값 인상·선거조작 계획을 논의한 것처럼 조작된 AI발 음성녹음이 확산한 사례가 있다. 3월에는 도널드 트럼프 전 대통령이 다수의 뉴욕 경찰에 체포되는 AI발 가짜 이미지가 SNS 등 온라인상에서 확산했다.

반면 AI 기술 발전이 가장 빠른 미국에서도 관련 규제가 아직 마련되지 않은 데다 SNS 기업의 자체 규제는 오히려 과거보다 축소돼 가짜뉴스가 선거판을 뒤흔들 것이라는 우려가 더 커졌다.