"尹 대통령님, 사랑합니다"…'윤어게인' 외친 미모의 20대 여성, 알고보니

정치 콘텐츠에 AI 딥페이크 조작 잇따라

최근 유튜브와 인스타그램 등 사회관계망서비스(SNS)를 중심으로 정치적 메시지를 퍼뜨리는 계정이 잇따라 등장하고 있다. 그러나 이중 다수 계정은 인공지능(AI) 기술로 조작된 정황이 확인되면서 논란이 일고 있다.

윤어게인 실제 집회 현장에 짧은 치마를 입고 태극기를 들고 있는 여성의 이미지를 합성한 보수 유튜브 채널. 유튜브 캡처

극우 세력의 온라인 활동을 추적해 온 황희두 노무현재단 이사는 최근 SNS를 통해 한 정치 계정의 실체를 공개했다. 문제가 된 계정은 'OO조아'라는 이름으로 활동하며 "자유대한민국을 사랑합니다. 윤어게인!" 등의 문구를 내세워 주목받았다. 계정에는 20대로 보이는 여성의 셀카 이미지가 다수 올라와 있었고, 이를 기반으로 팔로워를 빠르게 확보한 것으로 전해진다.

그러나 이용자들 사이에서 사진과 게시물의 부자연스러움이 지적되며 의혹이 확산했고, 결국 운영자는 자신이 남성이라고 고백했다. 그는 사과문을 통해 "적절한 시점에 밝히지 못했다"며 "배신감을 느꼈을 분들께 사과한다"고 밝혔다. 현재 해당 계정은 삭제된 상태다.

황 이사는 "AI 기술이 인간의 눈으로 진짜와 가짜를 구분하기 어려운 수준까지 왔다"면서 "단순한 기술 문제가 아니라 인간의 인지 과정을 공격하는 인지전의 전형적 사례"라고 지적했다.

황 이사는 "이 방식은 단순한 관심 유도가 아니라, 가짜 여론을 만들어내는 전형적 프로파간다"라면서 사회의 신뢰를 무너뜨릴 수 있다고 우려했다. 그는 "속는 사람이 꽤 많다. 개인 판단력 문제가 아니라 반복 노출과 알고리즘 증폭을 통해 설계된 인지 환경의 결과"라고 경고했다.

황 이사는 지난 2월에도 자신의 사진이 정치 성향 계정에 무단 도용됐다는 한 항공사 승무원의 피해 사실을 공개한 바 있다. 이처럼 AI 기술이 빠르게 발전하면서 실제와 구별하기 어려운 이미지와 영상이 온라인상에 확산하고 있어 이용자들의 주의가 필요하다는 우려의 목소리가 커지고 있다.

서지영 기자 zo2zo2zo2@asiae.co.kr