“학대영상을 하루종일 시청”…AI에 혹사당하는 케냐 노동자들

AI 데이터 검수 위해선 인간 노동력 필요
테크 기업들, 케냐 등서 외주 용역 사용
폭력·학대 등 유해한 콘텐츠 무방비 노출
"불안·우울증·트라우마 시달려" 고통 호소

저소득 국가 노동자들이 생성형 AI가 만든 결과물을 검수하는 과정에서 폭력적이고 기괴한 내용물을 접해 극심한 정신적 스트레스에 시달리고 있다는 보도가 나왔다. 사진은 기사의 특정 사실과 관련 없음. 이미지투데이

“AI(인공지능) 덕에 인류는 노동에서 해방될 것이다”. 

인도계 미국인 억만장자 비노드 코슬라가 한 말이다. 하지만 현실은 이와 정반대로 가는 모양새다. 케냐 등 저소득 국가 노동자들이 생성형 AI 때문에 혹사당하고 있다는 우려가 나오고 있어서다. 

23일(현지시간) 미국 월스트리트저널(WSJ)은 노동자들이 생성형 AI가 만든 결과물을 검수하는 과정에서 폭력적이고 기괴한 내용물을 접해 극심한 정신적 스트레스를 겪고 있다고 보도했다. 

생성형 AI는 텍스트·이미지·오디오 같은 새로운 콘텐츠를 생성하는 데 중점을 둔 모델이다. 오픈AI의 챗봇인 ‘챗GPT(ChatGPT)’, 이미지 생성기 ‘달리2(DALL·E2)’처럼 기존 데이터를 학습해 익힌 패턴을 바탕으로 원본과는 다른 결과물을 만들어낸다. 인터넷에서 수집한 데이터를 무차별적으로 학습할 경우 유해한 콘텐츠가 만들어질 가능성이 크다. 

이 때문에 IT기업들은 AI가 만들어낸 수많은 콘텐츠를 검토·분류하기 위해 노동자들을 고용해왔다. 이를 '데이터 라벨링(Data labeling)'이라고 한다. 이미지·영상·텍스트·오디오 등 데이터를 AI가 학습하기 쉽도록 분류하거나 주석을 다는 일을 말한다. 

챗GPT 개발사인 오픈AI는 이를 위해 직원 1000명 이상을 고용했다고 밝힌 바 있다. 오픈AI에 검수용역을 제공하는 스케일AI(Scale AI)의 알렉산드로 왕 최고 경영자(CEO)는 “기업들이 AI 고도화에 필요한 인간의 피드백을 받기 위해 연간 수억 달러를 지출할 것”이라고 전했다. 

문제는 검수 작업에 투입된 노동자들이 AI가 만들어낸 유해한 콘텐츠에 노출되면서 극심한 정신적 고통에 시달리고 있다는 점이다. WSJ에 따르면 이들이 검수한 내용 가운데는 폭력·학대 등 묘사가 포함돼 있었다. 케냐 출신의 알렉스 카이루는 “4개월 동안의 경험은 회사에서 일하면서 겪은 최악의 경험이었다”며 “밤마다 악몽을 꾸는 데다 길 가는 사람들을 특별한 이유 없이 불신할 정도로 정신 상태가 피폐해졌다”고 토로했다. 

‘AI 품질 분석가’인 모팟 오키니가 있던 팀은 한달에 게시물 1만5000여건을 처리해야 했다. 그는 “아동 학대를 자세히 묘사한 글을 읽는 것이 자신의 업무 중 하나였다”며 “이 일을 시작하고 트라우마·불안·우울증에 시달리게 되면서 아내와 이혼하고 가정마저 붕괴됐다”고 말했다. 

특히 케냐는 저렴한 IT 노동력을 찾는 테크 기업들에게 허브와도 같은 곳이다. 교육 수준과 영어 구사능력이 우수하면서도 임금은 저렴하기 때문이다.

‘콘텐츠 모더레이터(Contents moderator)’로 근무했던 케냐 직원 200여명이 페이스북과 현지 용역업체를 상대로 소송을 제기한 일도 있었다. 콘텐츠 모더레이터는 온라인상에서 떠도는 불법 영상, 악성 댓글 등 유해한 콘텐츠를 찾아 차단하거나 삭제하는 일을 하는 이들을 말한다. 이들은 업무 과정에서 극심한 정신적 고통을 겪고 있다고 호소했다. 

소를 제기한 직원 중 한명인 나단 은쿤지마나는 현지 언론과 인터뷰에서 “여자와 아이들이 학대당하는 영상을 하루 8시간 동안 봐야 했다”며 “퇴근한 뒤에도 잔상들을 떨처내려고 애를 썼다”고 밝혔다. 그런 그가 받는 월급은 429달러(54만원) 남짓이다. 직원들의 정신건강을 지원할 사내 복지시스템은 전무하다. 

케냐 법원은 6월 메타에 직원 처우에 관한 법적 책임이 있다는 판결을 내놓은 상태다. 미국 ‘타임 매거진’은 케냐 수도 나이로비에서 페이스북·틱톡·챗GPT에서 콘텐츠 모더레이터 등 관련 직군에 종사하는 노동자들이 노동조합 결성 단계에 돌입했다고 최근 보도했다.