“국힘서 박근혜 ·DJ 당권 싸움” 선거판 어지럽히는 최고 거짓말쟁이

팩트 틀리고 허위 정보 ‘술술’

“2024년 총선을 앞두고 국민의힘 내부에 박근혜와 김대중의 당권 불화가 있으며, 더불어민주당의 총선 유력 후보는 한동훈·홍준표·오세훈 등입니다.”(마이크로소프트 코파일럿)

“송영길·장제원이 총선 유력 후보이며, 이재명 민주당 대표는 총선에 불출마한 상태입니다.”(구글 바드)

오픈AI 챗GPT 이미지.

20일 본지가 주요 인공지능(AI) 챗봇에 내년 한국 총선 판세와 유력 후보에 대해 묻자 나온 답변들이다. 주요 정치인이나 정당 관련 기본 정보가 틀리는 것은 물론, 불출마 선언 정치인을 유력 후보로 제시하는 등 오류가 넘쳤다. 챗GPT와 네이버 AI인 클로바 X는 정치 관련 질문에 대답을 회피하거나 여론조사 결과를 인용해 답하는 등 신중한 태도를 보였다. 하지만 질문이 이어지자 챗GPT는 민주당을 여당이라 하고, 네이버 클로바 X는 2024 총선 후보와 2020 총선 후보를 혼동하는 등 한계를 드러냈다.

그래픽=백형선

미국 대선 관련 질문에 코파일럿은 “공화당 후보 ‘비벡 라마스와미’는 스페이스X와 에어비앤비를 창업한 유명 기업가”라고 소개했다. 스페이스X 창업자는 일론 머스크, 에어비앤비는 브라이언 체스키를 비롯한 3명이 공동 창업한 기업으로 라마스와미와 전혀 관련 없는 기업이다. 미국 IT 전문 매체 와이어드의 테스트에서도 코파일럿은 이미 경선에서 탈락한 공화당 후보들을 유력 후보로 언급하고, 투표 장소를 묻자 엉뚱하게 “푸틴이 재출마한다”는 러시아 대선 기사를 인용했다. 제대로 된 선거 관련 정보를 얻고 싶다면 절대 AI 챗봇을 이용하지 말아야 한다는 것을 보여주는 사례다.

◇오류율 37%, 가짜 뉴스 제조기 AI

유럽의 알고리즘 조사 기관인 AI 포렌식과 알고리즘워치는 16일 AI의 선거 관련 정보의 신뢰성을 조사한 결과, 답변 3가지 중 하나가 오류를 포함한 것으로 나타났다고 밝혔다. 두 기관은 오픈AI의 기술을 적용한 ‘마이크로소프트(MS) 코파일럿’을 집중적으로 시험했다. 최근 실시한 스위스 연방 정부, 독일 헤센주 및 바이에른주 선거와 관련해 2개월에 걸쳐 AI에 1000번이 넘는 질문을 던지자 독일어로 물었을 경우 답변 오류율은 37%에 달했다. IT업계 관계자는 “영어보다 다른 언어에서 틀린 답변을 내놓는 경향이 뚜렷하다”고 했다.

구체적으로 AI는 선거 날짜를 잘못 알려준다든지, 이미 오래됐거나 잘못된 여론조사 수치를 보여주는 식으로 거짓말을 했다. 경선에서 사퇴한 후보를 유력 경쟁자로 기재하거나, 후보에 대해 없는 논란도 만들어냈다. 미 대선에 관한 질문도 AI에 했는데 “12월 4일 여론조사에서 조 바이든 미 대통령과 도널드 트럼프 전 대통령의 양자 대결에서 지지율 48% 대 44%가 나왔다”고 답했다. 하지만 그 날짜에 이런 여론조사는 시행한 사실이 없다. AI가 가짜 뉴스 제조기가 된 것이다. 워싱턴포스트는 “최근 여론조사에서 미국인 중 약 15%가 다가올 대선 정보를 얻기 위해 AI를 사용할 수 있다고 답했다”며 “AI 도구가 잘못된 선거 정보를 퍼뜨리는 부작용은 정당을 가리지 않을 것”이라고 했다.

◇EU “선거 허위 광고 방치하면 플랫폼에 벌금”

AI 발전으로 딥페이크(가짜) 영상·사진까지 손쉽게 제작 가능해진 가운데, 유럽연합(EU)은 선거 관련 가짜 정보 유통을 막는 조치에 들어갔다. 지난달 EU는 구글·메타 등이 검색엔진과 페이스북 등 소셜미디어에 게재되는 정치 광고에 대해 ‘누가 비용을 지불했고, 어느 선거를 대상으로 하는 광고인지’ 표시하도록 했다. 허위 정보 유통, 차별 조장 광고를 방치하면 플랫폼 운영 기업에 수조 원대 벌금이 부과된다.

관련 규제 도입 직후 페이스북·인스타그램을 운영하는 메타는 지난달부터 정치 및 규제 산업이 광고를 할 경우에는 생성형 AI 관련 기능을 사용하지 못하도록 했다. AI의 능숙한 거짓말과 조작을 걸러내기 어려워지자, 민감한 주제에 대해서는 아예 AI 광고를 사용하지 못하도록 막아버린 것이다.