'위로만 하는 AI봇'이 정말 좋은 돌봄일까…젠더 관점서 본 AI의 문제

[토론회] 여성단체연합 'AI가 가져올 사회변화, 젠더로 묻다' 라운드테이블 개최
딥페이크 성착취·AI 돌봄 감시·콜센터 감정노동 심화까지 문제 제기

[미디어오늘 정민경 기자]

▲한국여성단체연합 주최로 지난 6일 서울 동작구 서울여성플라자에서 열린 'AI가 가져올 사회변화, 젠더로 묻다' 라운드테이블 현장. 사진=정민경 기자.

AI확산 정책이 효율성과 생산성을 앞세워 빠르게 추진되는 가운데, 여성·소수자·돌봄노동 영역에서 발생하는 부작용과 젠더 기반 폭력 문제를 함께 논의해야 한다는 지적이 나왔다.

한국여성단체연합이 지난 6일 서울 동작구 서울여성플라자에서 개최한 'AI가 가져올 사회변화, 젠더로 묻다' 라운드테이블에서는 여성 노동 저평가, AI 돌봄으로 인한 감시와 고립 딜레마, 딥페이크 성착취 문제 등 AI가 기존 성차별 구조를 강화하고 있다는 비판이 제기됐다.

김수아 서울대 언론정보학과 교수는 '젠더 관점에서 본 AI 활용과 사회변화'라는 발제에서 “현재 국가AI전략위원회에서 '대한민국 인공지능 행동계획' 등을 발표하며 효율성과 속도전을 벌이고 있는데 AI를 사용하면 효율성이 향상되고 이것이 곧 공익이라는 공식에 따르고 있다”며 “그런데 현재 AI에서 문제가 되고 있는 현상, △로봇에게 학습을 시키기 위해 인간 데이터 수집 과정 △사기와 스캠 △전쟁과 AI △성착취에 사용되는 딥페이크 등이 심각하며 특히 젠더 관점에서도 문제점이 속출하고 있다”고 말했다.

김 교수는 “초기 AI와 젠더 관련 연구들은 주로 알고리즘 편향성과 데이터 불균형 문제에 초점을 두었다. 최근 연구 경향을 살펴보면, 데이터 수집과 평가 과정에서 편향이 작동해 소수자와 여성의 데이터 평가에서 오류를 발생시켰다거나, 노동자의 자율성을 침해하고 새로운 형태의 통제를 야기하기도 했다”며 “메타(META)의 경우 노동자들의 키보드 입력이나 작업 시간에 대한 실시간 데이터 수집 등으로 인해 AI 학습데이터 문제가 있었다”고 말했다.

김 교수는 또한 “AI로 인한 사이버 스토킹 등 젠더 기반 폭력도 늘어나고 있으며 여성 노동의 저평가 문제도 나타나고 있다. AI가 여성의 노동시장 참여를 일시적으로 증가시키지만 소득, 시간, 주체성에서 격차를 지속시키고 증폭시키고 있다”며 “특히 여성 노동자들이 많은 돌봄 노동에서 알고리즘에 의한 평가, AI로 대체가 빠르게 일어나면서 양극화를 심화시키고 있다. 여성단체에서는 AI도입으로 위협받는 여성 중심 직종에 구조적 개입이 필요하다고 지적하고 있다”고 밝혔다.

김 교수는 특히 최근 노인돌봄 분야에서 AI로봇들이 등장한 것을 두고 “노인들을 위한 AI안부전화 서비스를 통해 노인 가구를 추적하고 감시를 수행하는데 복지센터 기간제 노동자의 안부전화를 대체하고 있다. 이것이 양적 차원에서 좋은 돌봄이 맞는가”라며 “특히 AI봇을 통한 대화는 사회적 관계에 불편함을 느끼는 취약 계층이 안정감을 느끼는 기회를 제공하지만, 이로 인해 사회적 관계가 더욱 취약해지는 딜레마가 발생하기도 한다”고 지적했다. 인간과는 달리 갈등도 없고, 위로만을 하는 AI봇과의 대화가 정말 돌봄의 대상에게 '좋은' 대화상대인지를 묻는 것이다.

▲김수아 서울대 언론정보학과 교수(가운데)가 한국여성단체연합 주최로 지난 6일 서울 동작구 서울여성플라자에서 열린 'AI가 가져올 사회변화, 젠더로 묻다' 라운드테이블에서 발표를 하고 있다. 사진=정민경 기자.

김 교수는 최근 글로벌 규제 흐름을 소개하며 “AI가 새로운 안전문제를 야기한다는 맥락에서, AI기업의 책무성은 여성과 아동, 소수자의 안전에 초점을 맞추어야 한다는 인식이 확대되고 있다”며 “호주에서는 AI 활용 챗봇과 아동의 정신건강, 유해성 검토를 하며 올해부터는 챗봇 연령을 규제하고 있다. 특히 호주에서는 그록(grok)이 아동성착취 이미지 생성에 책임이 있는지를 묻는 투명성과 안전장치 관련 보고를 요청했다. 한국의 AI정책에서 책임의 문화를 어떻게 구성할 것인지 물어야 할 시점”이라고 지적했다.

X의 AI챗봇인 grok과 관련해서 이민주 한국여성민우회 활동가도 “2025년 12월 X의 AI챗봇 grok이 grok 계정을 태그하고 사진을 특정한 형태로 바꿔달라고 하면 답장으로 즉각 AI로 합성을 해주는 기능을 탑재했는데, 프랑스의 한 비영리 단체가 그달 말 일주일간 grok을 태그한 게시물 5만 건과 이미지 2만 장을 분석했더니 이중 절반 이상은 속옷이나 비키니 차림이었고 대부분 젊은 여성이었다”며 “2026년 서울의 한 구청 공무원이 여성 동료의 사진을 무단 도용해 자신과 친밀한 듯 합성하고 소셜미디어에 게시해 성희롱한 사례도 있었다. 이처럼 AI기술이 기존의 젠더 구조에 따른 폭력을 새로운 방식으로 매개하는 역할을 하는 현실에 대한 인식이 필요하다”고 지적했다.

▲노헬레나 한국여성노동자회 사무처장(왼쪽)이 한국여성단체연합 주최로 지난 6일 서울 동작구 서울여성플라자에서 열린 'AI가 가져올 사회변화, 젠더로 묻다' 라운드테이블에서 발언하고 있다. 사진=정민경 기자.

“AI로 대체되는 여성 노동, 감정 노동 강도 높아졌으나 노동은 평가절하돼”

노헬레나 한국여성노동자회 사무처장은 AI와 여성노동과 관련해 “AI로 인해 대체되는 대표적인 노동인 콜센터 노동을 떠올려보면, 단순한 문의와 반복적인 응대는 AI가 맡게 되고, 남겨진 노동은 복잡한 상황과 감정이 얽힌 상담이라 노동이 줄어든 것이 아니라 더 날카로워져 더 많은 감정노동과 숙련이 요구된다”며 “그러나 표면적으로 일의 양이 줄었다는 이유로 노동은 평가 절하되며 노동의 형태는 더 고되졌으나 보상은 따라오지 않고 있다. 노동이 삭제되고 있는 과도기인 시기에 더 고통스러운 형태로 변화하고 있다”고 지적했다.

노 사무처장은 “AI는 일자리를 대체하는데 그치지않고 과도기에 더욱 고통스러운 모습으로 노동을 변화시키며, 나아가 성별 고정관념을 강화시킨다. 키오스크나 AI 상담사들은 대부분 여성형 음성이다. 기술은 새로워보이지만 그 안에서 담긴 성역할은 그대로”라며 “감정노동은 여성의 몫이며 돌봄도 여성의 영역이라는 오래된 믿음이 기술의 형태로 반복되며 고정관념은 커진다”고 말했다.