진짜같은 가짜영상 범람… ‘AI 선거왜곡’ 경보

■ 전세계 가짜뉴스 쓰나미
기술 진화하는데 규제 못따라가
머스크의 ‘X’ 등 감시기능 축소
美, 각 州에 가짜뉴스 제재 맡겨
“2024년은 AI 선거 될 것” 경고

내년 2월 대선 치르는 인도네시아 26일 인도네시아 자카르타의 한 대형 경기장에서 선거관리위원회 관계자들이 내년 2월 14일 치러지는 대선 관련 물품이 담긴 박스를 옮기고 있다. AP 연합뉴스

워싱턴=김남석 특파원 namdol@munhwa.com

생성형 인공지능(AI) 개발·보급 확산으로 2024년 세계 47개국에서 치러지는 각종 선거가 AI 영향 아래 치러지는 첫 번째 선거가 될 전망이지만 정부의 견제장치는 미비하고 기업 자체 감시 기능은 오히려 약화했다. 가짜뉴스는 자칫 선거 결과를 뒤바꿀 수 있고 ‘민주주의의 꽃’인 선거에 대한 불신을 유발해 민주주의 작동을 멈추게 할 수 있다는 우려가 커지고 있다.

26일(현지시간) AP통신·더힐·폴리티코 등에 따르면 AI 기술은 빠르게 발전 중이지만, 규제는 기술 발전 속도를 따라가지 못하는 상황이다. 미국은 의회, 연방선거관리위원회(FEC) 등이 선거 관련 AI 기술을 규제하는 조처를 검토 중이지만 AI발 가짜뉴스를 규제하는 연방 법안·규칙은 아직 없는 실정이다. 조 바이든 대통령은 10월 AI 기술 오남용을 막기 위한 행정명령에 서명하고 국립표준기술연구소(NIST)에 업무를 맡겼다. 하지만 NIST는 상무부 내에서도 인지도·역량이 부족한 데다 관련 연구협력도 AI 기업 등과 밀접한 랜드연구소와 맺어 논란이 일고 있다. 바이든 행정부는 공화당 등의 지속적 압박에 해외발 가짜뉴스 차단을 위해 메타 등 SNS 기업에 제공하던 경고 시스템도 중단했다. 이에 따라 내년 대선을 앞두고 AI발 가짜뉴스를 제재하는 유일한 규제는 각 주에 맡겨진 상황이다.

SNS 기업들의 자체 감시 기능은 오히려 더 축소됐다. 일론 머스크 테슬라 CEO는 지난해 10월 X(옛 트위터) 인수 이후 콘텐츠 감시 부서를 포함해 대규모 인력을 정리해고했다. 반면 도널드 트럼프 전 대통령 등 허위정보 유포를 이유로 차단했던 극단주의자·음모론자들의 계정은 잇따라 복원했다. 메타·유튜브 등도 비용 절감을 내세워 콘텐츠 감시 인력을 축소한 것으로 알려졌다. 비영리단체 프리프레스에 따르면 X를 비롯해 메타, 유튜브에서 혐오 콘텐츠·허위정보와 관련해 미디어 보호 정책을 없앤 사례는 모두 17개에 달한다. AI발 가짜뉴스 우려에 구글은 올해 초 선거 광고주에게 AI를 활용한 광고는 이러한 사실을 공지하도록 의무화하겠다고 발표했다. 메타 역시 실제 인물이 하지 않은 말·행동을 정치 광고에 사용하는 경우 공개하도록 할 계획이다. 하지만 틱톡·왓츠앱·위챗·텔레그램 등 여러 SNS 플랫폼의 등장으로 AI발 가짜뉴스가 퍼질 가능성은 커지고 있다. 이던 부에노 디 메스퀴타 시카고대 해리스공공정책대학원 학장은 “2016년이나 2020년이 SNS 선거였던 것처럼 2024년은 AI 선거가 될 것”이라고 말했다.