이젠 무서울 정도...태극기집회서 “윤어게인” 외친 여성 정체

각종 소셜미디어(SNS)와 유튜브 등을 중심으로 인공지능(AI) 이미지가 확산하는 가운데, 이를 이용해 정치적 메시지를 퍼뜨리는 사례가 발생해 우려가 커지고 있다.

최근 황희두 노무현재단 이사는 자신의 SNS 계정을 통해 “젊은 여성 극우 네임드 계정의 정체가 결국 드러났다”면서 해당 계정 내 콘텐츠들이 ‘AI 딥페이크’ 기술로 만들어졌다는 사실을 밝혔다.

황 이사는 인스타그램에서 활동하던 한 계정의 사과문 내용을 캡처해 공유했다. 그간 20대 여성으로 보이는 여성의 사진을 올리며 “윤어게인” 등 정치적 메시지를 게재해온 해당 계정 주인은 “죄송하다는 말씀을 드려야겠다”면서 자신이 사실 남성이었다고 밝혔다. 그는 “배신감을 느꼈을 분들게 사과한다”며 곧이어 계정을 삭제했다.

황 이사는 “AI 기술이 인간의 눈으로 진짜와 가짜를 구분하기 어려운 수준까지 왔다”면서 “단순한 기술 문제가 아니라 인간의 인지 과정을 공격하는 인지전의 전형적 사례”라고 지적했다. 그는 “최근 승무원, 인플루언서 등 실제 여성의 얼굴을 도용해 ‘멸공’, ‘윤어게인’을 외치던 사례도 있었다”면서 AI 기술 활용 외에 사진 도용 범죄 역시 빈번하게 이뤄진다고 밝혔다.

황 이사는 “이 방식은 단순한 관심 유도가 아니라, 가짜 여론을 만들어내는 전형적 프로파간다”라면서 사회의 신뢰를 무너뜨릴 수 있다고 우려했다. 그는 “속는 사람이 꽤 많다. 개인 판단력 문제가 아니라 반복 노출과 알고리즘 증폭을 통해 설계된 인지 환경의 결과”라고 했다. 그러면서 “(AI 기술 악용, 도용 범죄를) 방치할 경우 민주주의 자체가 무너질 수 있다”고 경고했다.

그런가 하면 최근 온라인상에서 인기를 끌었던 야구 중계 화면에 포착된 한 여성의 영상도 AI 생성 콘텐츠인 것으로 추정됐다. 이달 초 SNS와 온라인 커뮤니티 등에선 관중석에서 경기를 관람 중인 여성의 모습이 담긴 영상이 큰 화제를 모았다. 영상 속 여성은 흰색 오프숄더 상의에 청바지를 입고 다리를 꼰 채 경기에 몰입하다 선수들 플레이에 답답함을 느낀 듯 한숨을 쉬었다. 이 영상을 접한 국내외 누리꾼들은 “한국의 야구 여신”이라며 열광하기도 했다.

약 5초 분량인 해당 영상이 810만회 이상의 조회수를 기록하자, 야구 팬들 사이에서는 “AI 조작 영상”이라는 지적이 제기됐다. 중계 화면에 투수는 김서현, 타자로 조인성이 표기됐는데, 김서현은 2023년 한화에 입단했고, 조인성은 1998년 LG 트윈스에 입단해 2017년 은퇴한 후 현재 코치로 활동하고 있다. 이에 야구 팬들은 “두 선수가 그라운드에서 맞붙는 건 불가능”이라고 지적했다.

SNS를 통해 확산된 AI 이미지가 논란이 된 건 이번이 처음은 아니다. 지난달 대전동물원에서 늑대 늑구가 탈출했을 당시 AI로 조작한 늑구 목격 사진이 확산돼 문제가 된 바 있다. 결국 해당 이미지를 만들고 유포한 40대 A 씨는 대전경찰청 사이버수사대에 경찰·소방 당국의 수색을 방해한 혐의(위계에 의한 공무집행방해)로 검거됐다.

김수호 AX콘텐츠랩 기자 suho@sedaily.com