"'윤 어게인' 여성 SNS, 남성이었다" 도대체 AI로 뭘 하고 있나

'여성에 대한 왜곡된 인식과 기술이 결합한 결과' 우려 점점 커져
X 자체 AI챗봇 grok 활용 분석하니 절반 이상은 속옷·비키니 여성

[미디어오늘 정민경 기자]

지난 7일, 'OO조아' 닉네임으로 “윤어게인!” 등 파면 당한 전 대통령 윤석열씨를 옹호하는 글을 올려온 '여성' 계정이 남성이었다는 사실이 언론보도를 통해 알려졌다. 해당 계정은 20대 여성인 것처럼 영상을 여러개 올렸으나 가짜 계정이었다. 계정에 대해 AI가 아니냐는 의문이 제기되자 해당 계정주는 “OO조아는 남자”라며 사과문을 게시했다.

한겨레는 지난 7일 <“윤 어게인” 여성 SNS, 알고 보니 AI·도용…“극우 '정치적 피싱' 세계화”>에서 “전문가들은 이를 '정치적 피싱'으로 설명하며, 여성에 대한 왜곡된 인식과 기술이 결합한 결과로 해석했다”며 “'가상의 젊은 여성'을 이용한 홍보가 늘어난 배경에는 여성에 대한 왜곡된 인식을 고리로 극단적인 정치적 주장의 세를 키우려는 의도가 있다”고 보도했다.

프레시안은 지난 9일 <'미모의 윤어게인 여성' AI 영상이 말해주고 있는 것들>이라는 칼럼에서 “아름다운 여성을 대상화해서, 극우 세계관을 집어 넣어 사람들을 '피싱'하고 있는 셈”이라고 지적했다.

▲김수아 서울대 언론정보학과 교수(가운데)가 한국여성단체연합 주최로 지난 6일 서울 동작구 서울여성플라자에서 열린 'AI가 가져올 사회변화, 젠더로 묻다' 라운드테이블에서 발표를 하고 있다. 사진=정민경 기자.

최근 이처럼 '여성에 대한 왜곡된 인식과 기술이 결합한 결과'에 대한 우려는 점점 커지고 있다. 지난 6일 서울여성플라자에서 열린 <AI가 가져올 사회변화, 젠더로 묻다> 라운드테이블에서도 이같은 문제는 지적됐다. 김수아 서울대 언론정보학과 교수는 당일 발제에서 X의 자체 AI인 Grok을 통해 이용자들이 여성 누드 이미지를 만들고 있다고 지적했다.

같은날 이민주 한국여성민우회 활동가 역시 “프랑스의 한 비영리단체가 일주일간 X에서 Grok을 태그한 게시물 1만 건과 이미지 1만 장을 분석했더니 이 중 절반 이상은 속옷이나 비키니 차림이었고 대부분이 젊은 여성”이라고 지적했다.

[관련 기사: '위로만 하는 AI봇'이 정말 좋은 돌봄일까…젠더 관점서 본 AI의 문제]

조경숙 도토리랩스 대표는 이날 발제에서 최근 인터랙티브 AI 콘텐츠 플랫폼 '제타'(ZETA)의 사례를 들면서 해당 플랫폼에서 가장 인기를 끄는 캐릭터 '일진녀 수현'을 언급했다. 과거 '이루다' 사건으로 인해 여성형 AI 챗봇에 대한 성희롱이 문제가 됐으나 해당 현상은 지속적으로 반복되고 있다는 것이다.

▲YTN 2025년 10월10일자 보도 '3살도 가입되는 제타 AI...성적 표현 그대로 노출' 기사 갈무리.

앞서 YTN은 <3살도 가입되는 제타 AI...'성적 표현' 그대로 노출>(2025년 10월10일)에서 “최근 10대·20대 사이 인기를 끌고 있는 국산 인공지능 앱, 제타에서 미성년자들이 성적 표현과 노골적 대화에 그대로 노출되고 있다는 지적이 나왔다”며 “메인 페이지부터 눈살을 찌푸리게 할 정도의 적나라한 묘사가 나오는가 하면, 캐릭터 설명에는 이용자 시선을 끌기 위한 자극적이고 저속한 단어가 난무하고 인공지능이 오히려 성적인 대화를 먼저 유도하기도 한다”고 보도했다.

조경숙 대표는 “문제는 기술 바깥에 젠더가 있는 것이 아니라, 기술 안에 젠더가 빠져있다는 점”이라면서 “기술 전체의 설계 원리에 젠더 관점을 포함해야 한다. 여성계가 기술 거버넌스에 참여하지 못하는 한, 이 문제는 반복된다”고 우려했다.