AI발 가짜뉴스, 美 대선 흔든다[원호연의 PIP]

막대한 양의 타게팅 메시지 전송 가능
동료 시민에 대한 신뢰 저하 우려

도널드 트럼프 전 미국 대통령의 딥페이크 이미지 [로이터]

[헤럴드경제=원호연 기자]생성형 인공지능(AI)이 열풍을 이어가고 있는 가운데 이를 이용해 만들어지는 가짜 뉴스가 내년 미국 대선을 흔들 수 있다는 우려도 커지고 있다.

이코노미스트 지는 2024년 진행되는 미국 대선을 비롯해서 전세계의 선거에서 새로운 형태의 가짜 뉴스가 확산될 가능성이 높아지고 있다고 전했다.

이코노미스트 지는 “과거에는 허위 정보가 항상 사람이 만들어냈지만 최근에는 생성형 AI가 발전함에 따라 정교한 이야기를 뱉어내고 사실로 착각할 만한 이미지를 만들어 선전을 할 수 있게 됐다”며 “미국, 영국, 인도, 멕시코, 대만 등 총 40억명에 달하는 국가들이 투표를 준비하는 내년에 각국 국민이 얼마나 걱정을 해야겠는가”라고 반문했다.

지금까지의 가짜 뉴스와 음모론은 적어도 사람에 의해 만들어졌다.

2020년 미국 대선이 조작됐다는 트럼프 지지자들의 음모론이 폭도들을 의회 의사당으로 불러모았지만 이같은 음모론들은 TV나 SNS 등 기존 수단을 이용해 퍼뜨려졌다. 중국 공산당 선전원들이 대만 선거에 영향을 미치는 선전을 진행할 때에도 뉴스 매체를 이용해 직접 메시지를 전달했다.

이코노미스트 지는 대규모 언어모델(LLM)은 양과 질 측면 모두에서 상황을 바꿔놨다고 지적했다. AI에 의해 생성되는 허위 정보는 막대한 양으로 사람들을 압도해 특정 방향으로 투표하도록 유도할 수 있다.

질적 측면에서 현실과 구별할 수 없을 정도로 정교한 딥페이크는 그러한 음성, 사진, 동영상이 허위라는 사실이 밝혀지기도 전에 유권자들의 결심에 영향을 끼칠 수 있다. 게다가 AI는 특정 대상에 타겟팅된 가짜 뉴스를 만들어 낼 수 있다. 연령과 정치 성향, 성별 등에 따라 갈등과 분열을 조장할 수 있는 셈이다.

가장 큰 문제는 선전을 위한 AI 봇 시스템은 기존의 가짜 뉴스 활동보다 탐지하기가 더 어려워지는 만큼 사람들이 모든 것을 의심하기 시작하면 동료 시민에 대한 유권자의 신뢰가 저하될 수 있다는 점이다.

이같은 가짜 뉴스가 유통될 수 있는 통로인 소셜 미디어 플랫폼과 AI 관련 업체들은 이같은 위험을 방지하기 위한 노력을 경주하고 있다.

챗GPT의 개발사인 오픈AI는 정치적 영향력을 행사하려는 작업을 탐지하기 위해 사용량을 모니터링하겠다고 밝혔다. 알파벳고 메타는 정치 광고에서 가상으로 제작된 미디어 사용을 금지하고 있고 다른 기업들도 이미지와 동영상의 실제 여부를 확인할 수 있는 기술 표준을 만들기 위해 노력하고 있다.

다만 이같은 자발적 규제에는 한계가 있다. 가상 텍스트를 생성하는 메타의 라마나 이미지를 만들어내는 스테이블 디퓨전과 같은 오픈 소스 모델은 기업들의 감독 없이도 사용할 수 있다. 동영상 공유 소셜 미디어 앱인 틱톡은 중국과 관련이 있고 기본적으로 바이럴에 최적화 돼 있어 가짜 뉴스 확산에 이용될 수 있다. 일론 머스크가 인수한 엑스(X·옛 엑스)는 인력을 대폭 줄였기 때문에 봇 활동을 감시하기에 역부족인 상황이다.

미국 선거 당국은 선거 캠페인에 대해 합성 이미지 사용 여부를 공개하도록 고려하고 있지만 악의적인 행위자들은 준수할 가능성이 낮다.

다만 이같은 우려에도 불구하고 민주주의의 꽃인 선거가 AI에 무력하게 굴복한다는 의미는 아니라고 이코노미스트 지는 강조했다.

이코노미스트 지는 “지난 2년 간의 기술 발전 이전에도 사람들은 온갖 종류의 파괴적이고 끔찍한 아이디어를 서로에게 전달할 수 있었다”며 “2024년 미국 대선 캠페인이 법치와 선거 무결성에 대한 허위 정보로 훼손되겠지만 그 선구자는 바로 챗GPT가 아니라 트럼프 일 것”이라며 기술 결정론에 대해 경계를 표시했다.

why37@heraldcorp.com