[디지털 세상 읽기] 공정선거 위협하는 AI

박상현 오터레터 발행인

최근 미국의 대표적인 싱크탱크인 브루킹스 연구소가 AI가 내년에 있을 선거를 어떻게 바꿀지 경고하는 내용을 발표해 관심을 끌고 있다. 이 글은 2024년 미국 대선을 염두에 둔 내용이지만 내년에는 인도와 영국, EU, 인도네시아 등에서 중요한 선거가 있다는 점에서 한 나라에 국한된 문제가 아니다.

가장 눈에 띄는 변화는 ‘마이크로 타깃팅’이다. 특히 인구가 많고, 선거의 승패가 근소한 차이로 결정되는 국가들에서는 부동층의 마음을 사로잡을 수 있는 메시지를 만들어 내는 것이 중요한데, 이 작업에 AI가 사용될 가능성이 크다. 타깃이 되는 부동층 인구가 읽고, 보고, 소비하는 것이 무엇인지 파악하고 이를 실시간으로 분석하고 메시지를 만들어내는 일을 AI가 담당할 경우 사람이 할 때와는 비교가 안 되게 빠르고 정확한 공략이 가능하다. 또한 브루킹스 연구소는 정치인이 유권자들과 온라인에서 대화하는 과정에서 AI가 진지한 응답 외에도 재치있는 농담과 이미지, 영상을 저렴한 비용으로 제공해 사람들의 관심을 유지하려 할 것이라고 전망했다.

하지만 이게 전부가 아니다. 다른 전문가들은 생성 AI를 통해 만들어진 가짜 이미지와 영상이 쏟아지고, 정치인을 빙자한 후원금 사기가 판을 칠 것이라고 경고한다. 얼마 전 미국 공화당이 AI를 사용해 불법 이민자들이 미국 도시에 몰려들어 범죄를 저지르는 이미지를 만들어내 보수 유권자들에게 공포심을 불러 일으킨 일이 있었다. 대부분은 조작된 이미지라는 걸 알아도, 부동층의 일부만 속이면 선거의 흐름을 바꿀 수 있다는 점에서 효과적이다.

2016년에 미국을 비롯한 세계 곳곳이 소셜미디어를 선거 도구로 사용해 문제가 되었다면 내년은 AI가 악용되어 공정선거를 위협하는 첫 해가 될 가능성이 크다.

박상현 오터레터 발행인