정교해진 AI, 선동도 쉬워져…선거 앞두고 ‘가짜뉴스 주의보’

틱톡, 대만 선거서 팩트체크 지원
AI 도구로 허위 이미지 만들기 더 쉬워져
소셜미디어 안전장치는 약화
불리한 쪽 '선거 조작' 주장도 확산 예상

돋보기를 통해 가짜뉴스(Fake News) 낱말들이 나타난 모습. 해당 낱말 뒤에는 가짜뉴스를 포함한 각종 허위 정보들이 컴퓨터 스크린에 펼쳐져 있다. [AFP]

[헤럴드경제=김영철 기자] 오는 2024년부터 약 50개국에서 선거를 앞둔 가운데 각국은 ‘가짜뉴스와의 전쟁’에 분주하다. 다음달 대만을 시작으로 세계 각국에서 선거가 진행되는 만큼 전문가들은 가짜 이미지 등을 쉽게 만들어내고 더 정교해진 인공지능(AI) 도구로 허위 정보가 더 판칠 수 있다고 경고한다.

26일(현지시간) AP 통신은 AI 기술이 선거에 미칠 영향을 집중 조명하는 기사에서 “선거와 관련한 조작된 이미지와 동영상이 새로운 것은 아니지만, 2024년 미국 대통령 선거는 클릭 몇 번으로 몇 초 만에 가짜를 만들어낼 수 있는 정교한 AI 도구가 나온 이래 치러진 첫 번째 선거가 될 것”이라고 전망했다.

AI 전문가인 워싱턴대 명예교수 오런 에치오니는 선거를 앞두고 “잘못된 정보의 쓰나미를 예상한다”며 투표를 앞두고 ‘사악한’ 버전의 딥페이크 이미지가 소셜미디어에 퍼질 경우 사람들이 쉽게 속을 수 있다고 지적했다.

브레넌 정의센터의 선거 부문 책임자 래리 노든 역시 첨단기술로 만들어진 가짜 뉴스가 이미 전 세계에 영향을 미치고 있다고 전했다. 또 AI 도구는 특정 커뮤니티를 겨냥해 오해의 소지가 있는 메시지를 정교하게 다듬는 데에도 쓰일 수 있으며, 공식 정부 사이트처럼 보이는 가짜 웹사이트로 투표 절차에 관한 허위 정보를 공지할 수도 있다.

가짜뉴스가 선거에 악영향을 미치는 것을 막기 위한 움직임도 나타나고 있다. 26일 사우스차이나모닝포스트(SCMP) 보도에 따르면 틱톡은 다음달 13일 예정된 대만 총통 선거에서 일어날 수 있는 가짜뉴스를 막기 위해 팩트체크 그룹과 협력한다. 해당 플랫폼이 중국으로부터 선거 개입을 위한 도구가 되고 있다는 지적에 따른 대처다.

이날 틱톡은 국제팩트체킹네트워크(IFCN)에서 인증을 받은 대만 기관 마이고펜과 ‘2024 선거 가이드’를 출시했다고 밝혔다. 이 가이드에는 대만 중앙선거관리위원회(CEC)에서 제공하는 선거 관련 온라인 링크가 담겨있다. 선거와 관련된 모든 영상에는 올바른 정보를 얻을 수 있는 태그가 부착된다.

이에 대해 틱톡 관계자는 “선거를 보호하고 권위 있는 정보로 공동체를 지원하기 위한 노력의 일환”이라며 “이용자들이 선거 관련 정보를 검색하거나 연관 동영상을 보면 가이드가 안내 될 것”이라고 설명했다.

그러나 내년 11월 대선을 앞둔 미국에서조차 AI 기술에 관한 규제는 미비한 상태다. 미 의회와 연방 선거관리위원회에서 정치인들이 AI 생성 기술을 규제하기 위한 조치를 모색하고 있지만, 아직은 어떤 규칙이나 법안도 확정된 게 없다고 AP는 전했다.

정치 관련 AI 딥페이크를 제재하는 유일한 규제는 각 주(州)에 맡겨진 상황이다. 일부 주에선 딥페이크에 표시를 하거나 후보자의 이미지를 허위로 표현하는 딥페이크를 금지하는 법을 통과시켰지만, 법 위반 행위를 지속해서 적발해낼 수 있을지는 미지수다.

허위 정보 확산을 제재하는 소셜미디어 업체들의 자발적인 정책도 몇 년 사이 더 후퇴했다. 기술·미디어 분야 비영리 단체 프리프레스의 보고서에 따르면 X를 비롯해 페이스북·인스타그램을 운영하는 메타, 유튜브에서 혐오 콘텐츠, 허위 정보와 관련해 미디어 보호 정책을 없앤 사례는 도합 17개에 달한다.

일론 머스크 테슬라 최고경영자는 지난해 10월 트위터(현재 X)를 인수한 뒤 콘텐츠 감시 부서를 포함해 대규모 인력을 해고했다. 이로 인해 이전에 차단됐던 음모론자와 극단주의자들의 계정도 잇달아 복원했다.메타와 유튜브도 최근 비용 절감을 위해 인력을 줄이면서 콘텐츠 감시 업무 담당자 수가 전보다 적어진 것으로 알려졌다.

yckim6452@heraldcorp.com