이번엔 ‘AI 이재명’ 못 보나···AI 선거 악용 우려에 각국 비상

연설하는 조 바이든 대통령 모습. AFP연합뉴스

국내 제22대 총선과 미국 대선 등 굵직한 선거의 해를 맞아 안팎에서 인공지능(AI)이 선거에 악용될 가능성을 우려하고 있다.

이미 미국에서는 조 바이든 대통령 목소리를 흉내낸 ‘가짜 전화유세’가 나돌아 비상이 걸렸다. 국내에선 이번부터 이른바 ‘딥페이크(AI를 통한 모조 영상이나 목소리 등)’를 이용한 선거운동이 금지된다. 사실 지난 대선에서 ‘AI 윤석열’ ‘AI 이재명’을 내세운 사이버 유세까지 적극 선보였으나 이번 총선에선 어려울 것으로 보인다.

28일 정치권 등에 따르면 중앙선거관리위원회는 총선을 앞두고 공직선거법에 따라 29일부터 딥페이크를 통한 선거운동을 금지했다. 다만 당내 경선이나 투표 참여권유, 의정활동 보고 등에 딥페이크 영상을 활용하는 것은 허용된다.

활용이 금지되는 것은 딥페이크처럼 AI 기술로 만든 ‘실제와 구분하기 어려운’ 가상의 음향·이미지·영상 등이다. AI 기술로 만든 가상임을 표시해서 활용해도 법 위반이 된다.

선관위는 AI 전문가와 모니터링 전담요원 등으로 구성된 감별반을 운영하며, 포털·AI 플랫폼 관계사 등과 협조해 위법성이 의심되는 댓글을 비롯한 콘텐츠를 선제적으로 삭제키로 했다.

이에 포털사이트 등 관련 기업들도 바빠졌다. 네이버는 최근 언론사 홈에 ‘총선’ 섹션 탭을 추가하고 언론사별로 총선 관련 기사를 모아볼 수 있는 기능을 제공했다. 언론사가 직접 탭 노출 여부를 설정하고, 총선 탭에서 해당 언론사의 총선 섹션 기사들이 최신순으로 배열된다. 총선 기사 댓글 제공 방식도 언론사에서 별도로 설정할 수 있게 했다.

또 외부전문가들로 구성된 뉴스혁신포럼에서는 뉴스 서비스 투명성과 공정성 제고 방안 등을 마련할 예정이다. 카카오가 운영하는 포털 다음 뉴스도 조만간 총선 코너를 마련할 예정이다.

이런 가운데 한 개발자가 블로그에 댓글을 달아주는 AI 프로그램을 만들어 80만원 안팎에서 판 것으로 알려졌다. 기존 댓글들을 자동으로 학습해 사람이 쓴 것 같은 댓글로 달아주는 식이다. 총선을 앞두고 이런 프로그램들이 뉴스 댓글에 적용되면 여론을 조작하는 데 쓰일 수도 있다.

네이버 측은 “댓글 내용을 보고 AI 활용 여부와 내용상 허위 여부를 판단하기는 어렵다”면서도 “특정 시간 내 동일한 댓글이 작성되거나 특정 사용자가 일정 수 이상의 댓글을 작성하는 등의 비정상적인 이용 패턴에 대해서는 자동으로 탐지해 조치하고 있다”고 밝혔다.

이어 “2018년 뉴스 댓글 어뷰징(의도적 조작) 분석 시스템을 선보인 이후 이를 꾸준히 고도화했고, 선거를 앞둔 만큼 어뷰징 방지에 총력을 기울이겠다”고 했다.

앞서 미국 뉴햄프셔주에서는 최근 바이든 대통령의 목소리를 닮은 ‘가짜 전화’가 유권자들에게 걸려와 발칵 뒤집혔다.

“이번 화요일(예비경선)에 투표하지 마세요. (그것은) 도널드 트럼프 당선이라는 공화당의 목표를 돕는 일입니다.”

바이든 대통령이 쓰는 습관적인 말투까지 따라 한 이 전화는 AI를 활용한 딥페이크 음성 기술이 사용된 ‘로보콜(robocall· 녹음된 음성이 재생되는 자동전화)’로 드러났다.

미 사법당국은 즉각 수사에 돌입했으나 누가 로보콜을 합성해 유권자들에게 유포했는지 밝혀내는 데 어려움을 겪고 있다. 당국은 가짜 음성이 디지털 흔적이 남지 않는 전화로 퍼져서 출처를 추적하는 것이 쉽지 않을 것으로 본다. 이는 미 대선 경선 시작 후 AI를 악용한 허위정보 유포에 대한 첫 수사로, ‘AI가 민주주의를 위협할 것’이라는 우려가 커지고 있다.

이번 사태를 계기로 미국에서는 최소 13개 주가 AI를 활용한 콘텐츠로 선거 관련 허위 정보가 퍼지는 것을 막기 위한 법안을 추진 중이다. 법안은 AI로 생성한 콘텐츠의 경우 이를 의무적으로 표시하도록 하고, AI로 생성한 콘텐츠의 게시를 금지하는 등의 규제 내용을 담고 있다.

AI 기술을 보유한 기업들도 자사 기술이 선거에 악용되는 것을 막기 위해 대책을 내놓고 있다.

챗GPT로 AI 붐을 일으킨 오픈AI는 챗봇이 제공하는 뉴스·정보·이미지 등의 출처를 제공키로 했다. 구글은 AI 챗봇 ‘바드’와 AI 검색 기능이 답변할 수 있는 선거 관련 질문을 제한했다. 또 AI로 생성된 콘텐츠를 사람들이 알아볼 수 있도록 선거 광고에 AI를 쓴 경우 광고주가 이 사실을 표시하도록 했다. 페이스북· 인스타그램을 운영하는 메타도 유사한 정책을 시행 중이다.

미국 시민단체 ‘퍼블릭 시티즌’의 로버트 와이스먼 회장은 “뉴햄프셔주 사례는 딥페이크 콘텐츠가 혼란을 심고, 사람들을 계속 속일 수 있는 많은 방법을 갖고 있다는 점을 일깨운다”며 “정책 입안자들은 서둘러 보호 장치를 마련해야 한다”고 촉구했다.

김은성 기자 kes@kyunghyang.com