틱톡 “선거기간 허위 콘텐츠 대응 총력…필요시 계정 제재”

네이버·메타·유튜브도 전방위 안전망 구축

제9회 전국동시지방선거 사전투표를 열흘 앞둔 19일 경기 수원시 권선구 권선2동 행정복지센터에서 선거관리위원회 관계자들이 사전투표 모의시험을 하고 있다. 2026.05.19 수원=뉴시스

제9회 전국동시지방선거를 앞두고 국내외 플랫폼 기업들이 선거의 신뢰성을 뒤흔드는 허위 정보와 인공지능(AI) 악용 콘텐츠를 막기 위해 나섰다. 유권자들의 눈과 귀가 되는 포털뿐만 아니라 Z세대의 여론 형성에 큰 영향력을 가진 동영상 플랫폼 틱톡까지 관리 강화에 나서면서 플랫폼 업계의 총력전이 본격화되는 양상이다.

틱톡은 20일 ‘선거 신뢰·공정성을 위한 플랫폼 안전’을 주제로 온라인 브리핑을 열고 지방선거 전후 기간 동안 적용될 구체적인 플랫폼 운영 가이드라인을 공개했다.

틱톡은 선거 기간 동안 중앙선거관리위원회 사이버선거범죄 대응팀과 별도의 ‘핫라인’을 운영한다. 선관위가 선거 관련 불법·허위 콘텐츠를 신고하면 틱톡이 이를 신속히 검토해 삭제하거나 노출을 제한하고, 필요할 경우 계정 제재까지 진행한다. 선거 국면에서는 짧은 영상 형태의 숏폼 콘텐츠의 확산 속도와 파급력이 더욱 커지는 만큼 허위정보 확산에 보다 빠르게 대응하기 위한 조치로 풀이된다. 아울러 국내 허위정보 대응 강화를 위해 글로벌 팩트체크 기관인 리드 스토리스와 협력 체계도 구축하기로 했다.

틱톡은 생성형 AI을 활용한 딥페이크 영상과 조작 콘텐츠에 대해선 AI 자동 탐지 기술과 인력 검토를 병행해 대응한다. 선거 기간에는 모니터링과 검수 인력을 확대해 대응 속도를 높일 예정이다. 틱톡에 따르면 최근 기준 정책 위반 콘텐츠의 99%는 이용자 신고 이전에 선제적으로 삭제됐으며, 이 가운데 86%는 단 한 차례도 조회되기 전에 차단됐다. 틱톡 관계자는 “현실 사건을 왜곡하거나 실제 인물의 발언이나 행동을 허위로 보이게 만드는 AI 생성 콘텐츠는 삭제 대상”이라며 “AI 생성 콘텐츠에는 반드시 라벨을 부착하도록 하고 있지만, 라벨이 있다고 해서 해당 콘텐츠가 자동으로 허용되는 것은 아니다”라고 설명했다.

국내 최대 포털인 네이버는 7일 ‘제9회 전국동시지방선거 특별페이지’를 개설하고 선거철 맞춤형 운영 정책을 시행 중이다. 선거 기간 후보자와 관련한 댓글을 삭제해달라는 요청이 접수될 경우 한국인터넷자율정책기구(KISO) 정책에 따라 처리하는 동시에 관련 법령에 근거해 중앙선거관리위원회와 협조하기로 했다. 이와 함께 이용자들이 선거 관련 허위정보나 댓글을 직접 신고할 수 있는 기능도 도입했다. 별도 신고센터를 통해 중앙선관위 채널로 바로 연결되도록 해 허위정보 대응 속도를 높인다는 방침이다.

한편 글로벌 플랫폼 기업들도 선거철마다 별도의 운영 정책과 생성형 AI 대응 체계를 강화하고 있다. 메타는 최근 ‘2026년 미국 중간선거 대응 방안’을 공개하고 선거 마지막 일주일 동안 신규 정치·선거·사회 이슈 광고 게재를 차단하겠다고 밝혔다. 선거 막바지에 새롭게 등장하는 주장들은 충분한 검증과 반박이 어렵다는 이유에서다. AI로 생성하거나 변형한 정치·사회 이슈 광고에 대해서는 광고주가 AI 활용 여부를 의무적으로 공개하도록 하는 정책도 운영 중이다.

유튜브 역시 글로벌 가이드라인을 바탕으로 선거 관련 허위정보와 조작 콘텐츠 대응 수위를 높이고 있다. 유튜브는 투표 시간·장소·방법 등에 대한 허위정보나 후보 자격과 관련한 거짓 주장, 선거 결과를 왜곡하는 콘텐츠 등을 주요 규제 대상으로 삼는다. 특히 생성형 AI를 활용한 딥페이크 영상이나 합성 음성 등 이용자를 오도할 가능성이 있는 콘텐츠에 대해서는 삭제나 노출 제한 등의 강력한 조치를 적용하고 있다.

한채연 기자 chaezip@donga.com