총선 앞 한국도 ‘AI 악용’ 비상

말투까지 따라하는 ‘로보콜’
미 13개주 AI 선거 방지 추진

국내선 29일부터 활용 금지
선관위, ‘감별반’ 본격 운영
포털도 ‘총선 섹션’ 등 대응

한국의 제22대 총선과 미국 대선 등 굵직한 선거의 해를 맞아 인공지능(AI)이 선거에 악용될 가능성에 대한 우려가 커지고 있다.

이미 미국에서는 조 바이든 대통령 목소리를 흉내 낸 ‘가짜 전화유세’가 나돌아 비상이 걸렸다. 국내에선 이번 총선부터 이른바 ‘딥페이크(AI를 이용한 모조 영상이나 목소리 등)’를 이용한 선거운동이 금지된다. 지난 대선에서는 ‘AI 윤석열’ ‘AI 이재명’을 내세운 사이버 유세까지 선보였으나 이번 총선에선 어려울 것으로 보인다.

28일 정치권 등에 따르면 중앙선거관리위원회는 총선을 앞두고 공직선거법에 따라 29일부터 딥페이크를 통한 선거운동을 금지한다. 다만 당내 경선이나 투표 참여 권유, 의정활동 보고 등에 딥페이크 영상을 활용하는 것은 허용된다.

활용이 금지되는 것은 딥페이크처럼 AI 기술로 만든 ‘실제와 구분하기 어려운’ 가상의 음향·이미지·영상 등이다. AI 기술로 만든 가상이라는 점을 표시해서 활용해도 법 위반이 된다.

선관위는 AI 전문가와 모니터링 전담요원 등으로 구성된 감별반을 운영하며, 포털·AI 플랫폼 관계사 등과 협조해 위법성이 의심되는 댓글을 비롯한 콘텐츠를 선제적으로 삭제키로 했다.

이에 포털사이트 등 관련 기업들도 바빠졌다. 네이버는 최근 언론사 홈에 ‘총선’ 섹션 탭을 추가하고 언론사별로 총선 관련 기사를 모아 볼 수 있는 기능을 제공했다. 언론사가 직접 탭 노출 여부를 설정하고, 총선 탭에서는 해당 언론사의 총선 섹션 기사들이 최신순으로 배열된다. 총선 기사 댓글 제공 방식도 언론사에서 별도로 설정할 수 있도록 했다. 카카오가 운영하는 포털 다음 뉴스도 조만간 총선 코너를 마련할 예정이다.

이런 가운데 한 개발자가 블로그에 댓글을 달아주는 AI 프로그램을 만들어 80만원 안팎에 판매한 것으로 알려졌다. 기존 댓글들을 학습해 사람이 쓴 것 같은 댓글을 달아주는 식이다. 총선을 앞두고 이런 프로그램들이 뉴스 댓글에 적용되면 여론을 조작하는 데 쓰일 수도 있다.

네이버 측은 “댓글 내용을 보고 AI 활용 여부와 내용상 허위 여부를 판단하기는 어렵다”면서도 “특정 시간 내 동일한 댓글이 작성되거나 특정 사용자가 일정 수 이상의 댓글을 작성하는 등 비정상적인 이용 패턴에 대해서는 자동으로 탐지해 조치하고 있다”고 밝혔다.

앞서 미국 뉴햄프셔주에서는 최근 바이든 대통령의 목소리와 비슷한 ‘가짜 전화’가 유권자들에게 걸려와 발칵 뒤집혔다.

“이번 화요일(예비경선)에 투표하지 마세요. (그것은) 도널드 트럼프 당선이라는 공화당의 목표를 돕는 일입니다.”

바이든 대통령이 쓰는 습관적인 말투까지 따라 한 이 전화는 AI를 활용한 딥페이크 음성 기술이 사용된 ‘로보콜(robocall·녹음된 음성이 재생되는 자동전화)’로 드러났다. 미 사법당국은 즉각 수사에 돌입했으나 누가 로보콜을 합성해 유권자들에게 유포했는지 밝혀내는 데 어려움을 겪고 있다.

이번 사태를 계기로 미국에서는 최소 13개 주가 AI를 활용한 콘텐츠로 선거 관련 허위 정보가 퍼지는 것을 막기 위한 법안을 추진 중이다. AI 기술을 보유한 기업들도 자사 기술이 선거에 악용되는 것을 막기 위해 대책을 내놓고 있다.

김은성 기자 kes@kyunghyang.com