[사설] 총선 앞 AI發 가짜뉴스 대책 시급하다

정치권에서도 급속히 발전하는 챗GPT 대응방안 논의가 활발해지고 있다. 민주당 이재명 대표가 지난 11일 국회에서 열린 챗GPT 관련 좌담회에 참석하고 있다. 연합뉴스

인공지능(AI) 광풍 속에서 AI가 만드는 거짓 정보가 선거판까지 흔들 수 있다는 우려가 나오고 있다. 지난 16일 미국 의회에서 처음 열린 AI 청문회에 참석한 대화형 AI 챗GPT 개발사인 오픈AI의 최고경영자 샘 올트먼은 “내년 미 대선에서 AI의 허위 정보 쓰나미가 예상된다”며 정부의 AI 규제를 촉구했다. 챗GPT 창시자 입에서 AI의 거짓 정보가 표심을 흔들 수 있다는 경고가 나온 것이다. 내년 총선을 앞둔 우리로서도 섬뜩한 얘기가 아닐 수 없다.

오픈AI의 챗GPT를 필두로 다양한 형태의 AI들이 쏟아지니 전문가들조차도 진화 속도에 놀라고 있다. 오픈AI 공동설립자인 일론 머스크조차 AI 개발 일시 중단을 주장하고 있다. 올트먼은 미 정부에 AI를 별도 관리하는 기관을 만들어 개발 허가를 엄격히 관리하라는 제안까지 했다. 하루가 달리 발전하는 AI 모델이 거짓 정보로 여론을 조작하면 선거는 물론 민주주의의 기반이 흔들릴 것은 자명하다. 당장 선거 유세 과정에서 상대방 헐뜯기에 생성형 AI가 악용되면 유권자들의 혼란은 걷잡을 수 없어진다. 정당 편향성이 심각한 이미지, 영상, 음성 등이 사실로 둔갑해 버젓이 확대재생산될 수 있다. 상상조차 끔찍하다.

남의 일이 아니다. 청담동 술자리, 친일 횟집 등 해괴한 가짜뉴스가 툭하면 팬덤정치에 동원되는 우리 현실에서는 사실상 화급을 다투는 문제다. 어물어물했다가는 내년 총선은 상대 진영 후보의 목소리와 이미지를 진짜처럼 조작해 서로 헐뜯는 난장이 될 수 있다. 중앙선거관리위원회는 AI의 위법 행위에 대응할 방안을 서둘러 마련해야 한다. 딥페이크 영상 등을 동원한 선거운동을 제한하는 공직선거법 개정안이 이미 발의돼 있다. 여야가 관련 입법에 속도를 내야 함은 말할 것도 없다.

▶ 밀리터리 인사이드 - 저작권자 ⓒ 서울신문사 -