"윤어게인, 멸공!" 외치는 20대 미모의 여성…알고보니 AI?

AI 딥페이크로 만들어진 SNS 계정 논란
여성 셀카·정치 성향 글 올렸다가 삭제
황희두 "가짜 여론 만드는 프로파간다"

[이데일리 권혜미 기자] 최근 인공지능(AI) 기술로 사회관계망서비스(SNS) 계정을 만든 뒤 정치적 메시지를 퍼뜨리는 일이 발생했다.

사진=유튜브

극우 세력의 인터넷 활동을 추적해 온 황희두 노무현재단 이사는 지난달 26일 자신의 SNS 계정을 통해 “젊은 여성 극우 네임드 계정의 정체가 결국 드러났다”면서 “‘AI 딥페이크’ 기술로 만들어진 조작이었다”고 밝혔다.

황 이사는 인스타그램에서 ‘OO조아’라는 계정으로 활동하던 A씨의 사과문 내용을 게시물에서 공유했다. 해당 계정 소개글엔 “자유대한민국을 사랑합니다. 윤어게인!”이라고 적혀 있고 20대로 추정되는 여성의 셀카 사진이 다수 게재됐었다.

하지만 누리꾼들 사이에서 ‘OO조아’ 계정에 대한 의문이 제기됐고, A씨는 결국 자신이 남성이라고 고백했다. A씨는 “어느 시점부터 솔직하게 말씀드렸어야 했는데 타이밍을 놓쳤다”며 “놀라시거나 배신감을 느끼실 분에게 사과 외에는 변명의 여지가 없다. 죄송하다”고 전했다. 현재 해당 계정은 삭제된 상태다.

황 이사는 “AI 기술이 인간의 눈으로 진짜와 가짜를 구분하기 어려운 수준까지 왔다”면서 “단순한 기술 문제가 아니라 인간의 인지 과정을 공격하는 인지전의 전형적 사례”라고 지적했다.

사진=SNS 캡처

또 황 이사는 “최근 승무원, 인플루언서 등 실제 여성의 얼굴을 도용해 ‘멸공’, ‘윤어게인’을 외치던 사례도 있었다”면서 AI 기술 활용 외에도 사진 도용 범죄 역시 빈번하게 이뤄진다고 밝혔다.

황 이사는 “이 방식은 단순한 관심 유도가 아니라, 가짜 여론을 만들어내는 전형적 프로파간다”라면서 사회의 신뢰를 무너뜨릴 수 있다고 우려했다. 그는 “속는 사람이 꽤 많다. 개인 판단력 문제가 아니라 반복 노출과 알고리즘 증폭을 통해 설계된 인지 환경의 결과”라고 경고했다.

황 이사는 지난 3일에도 태국 인플루언서의 사진을 도용한 계정을 발견했다고 알리기도 했다.

또한 지난 2월에는 한 항공사 승무원이 자신의 사진이 정치 성향 계정에 무단 도용됐다며 피해 사실을 공개한 바 있다. 일부 유튜브 채널에서는 짧은 치마를 입고 태극기를 든 여성 이미지를 AI로 합성해 집회 영상처럼 제작하는 경우도 있었다.

권혜미 (emily00a@edaily.co.kr)