‘나쁜 것’도 빨리 배우는 AI···유해물 걸러내는 노동자들 트라우마 호소

챗GPT 로고

폭력, 괴롭힘, 자해, 강간, 아동 성폭력···. 인터넷 세상의 가장 어두운 콘텐츠들을 생성형 인공지능(AI)이 빠르게 배우고 있다. 문제는 AI가 학습한 폭력성을 걸러내는 건 인간의 몫이라는 점이다. 현재 AI를 개발하는 회사들은 챗봇의 유해콘텐츠 정화작업을 아프리카 저임금 노동자들에 맡기고 있고, AI의 ‘나쁜짓’에 고스란히 노출된 노동자들은 트라우마를 호소하고 있다.

월스트리트저널(WSJ)은 24일(현지시간) “챗GPT의 폭력과 성폭력에 대한 묘사를 가려내는 작업을 하는 케냐의 노동자들이 정신적 충격을 호소하고 있다”고 보도했다. 이들은 케냐 의회에 AI의 유해 콘텐츠에 노출돼야 하는 직업의 위험성을 인식하고, 관련 노동자를 보호하기 위한 법안을 마련해달라고 청원서를 제출했다.

챗GPT와 같은 생성형AI는 기업들의 서비스 상담부터 시나리오 작가까지 다양한 직업을 대체할 수 있는 것으로 기대되지만, 정작 AI 스스로 폭력적이거나 유해한 콘텐츠를 걸러내지 못해 인간에 의존하고 있다고 WSJ는 지적했다. 실제로 챗GPT를 개발한 오픈AI는 챗봇 서비스를 출시하기 전인 2021년 11월 아웃소싱 회사를 통해 AI의 폭력성을 걸러내는 작업을 의뢰했다. 오픈AI는 이를 위해 약 1000명의 노동자를 고용한 것으로 알려졌다.

노동자들은 AI가 직접 생성한 수천개의 그래픽과 텍스트를 일일이 검토하고 분류해야만 했다. WSJ가 입수한 문서에 따르면 노동자들이 분류한 구절에는 폭력, 괴롭힘, 자해, 성폭력과 아동 성폭력 등에 대한 상세한 묘사가 포함돼 있었다. 오픈AI는 근로자들에게 성적 내용을 포함한 생성물을 네 가지 심각도 범주로 분류할 것을 요청했다. 최악 등급인 C4는 아동 성폭력에 관한 생성물이었고 바로 전 단계인 C3에는 성매매·성노예제, 근친상간 등의 콘텐츠가 분류됐다. AI 유해 생성물 중에는 극도의 폭력성을 담은 그래픽도 있었다고 WSJ는 덧붙였다.

AI는 논문, 사회관계망서비스(SNS), 인터넷 게시물 등 웹에서 학습할 수 있는 모든 자료들을 학습했다. 이 과정에서 AI는 웹세상의 가장 어두운 콘텐츠까지 고스란히 학습해 유해 생성물을 생성했고, 노동자들은 AI의 폭력적 콘텐츠를 일일이 검토하며 정신적 충격을 입게 됐다. AI 콘텐츠 분류 작업을 했던 케냐 근로자인 알렉스 카이루는 WSJ에 “그 회사에서 일한 4개월 동안의 경험은 내가 일하면서 겪어본 최악의 경험이었다”고 말했다.

폭력 콘텐츠를 가려내는 팀에서 일했던 또다른 노동자는 처음에는 AI가 생성한 유해 텍스트가 한 문장 수준이었지만, 곧 5~6개 단락으로 늘어났다고 말했다. 결국 팀원들이 부담을 느끼기 시작했고, 정신적 피로도를 호소한 노동자들은 더 자주 병가나 휴가를 내게 됐다.

웹상의 유해콘텐츠를 걸러내는 작업을 아프리카 저임금 노동자들에 아웃소싱하고 있는 기업은 AI기업 외에도 페이스북(메타), 트위터 등 다양하다. 케냐는 국민들의 높은 교육 수준과 영어 사용능력에 비해 인건비가 낮아 테크기업들이 선호하는 아웃소싱 지역이다.

SNS의 유해콘텐츠를 걸러내는 작업을 했던 케냐 노동자 카이루는 “자살 관련 콘텐츠를 포함한 폭력적 게시물을 하루에 수백개 읽어야 했다”며 “어느날부터 악몽에 시달렸고 사교적이던 성격이 바뀌어 현재는 사람들을 기피하게 됐다”고 말했다. 웹서비스 분석가 모파트 오키니 또한 “한달 동안 1만5000개에 달하는 게시물에서 성적인 내용을 검토했다”며 “그 프로젝트에 6개월 참여한 뒤 트라우마와 불안, 우울증이 생겼다”고 말했다.

테크기업들의 콘텐츠 관리 작업을 했던 노동자들은 웹상의 유해 콘텐츠에 1차적으로 노출되는 직업이 극도로 위험하다는 것을 인식하도록 케냐의 법을 개정할 것을 요구하고 있다. 이들은 지난 11일 AI노동자들을 보호하기 위한 새로운 법안을 촉구하는 청원서를 케냐 의회에 제출했다. AI노동자들을 대변하는 머시 무테미 변호사는 “오픈AI와 아웃소싱 기업이 케냐의 허술한 법과 값싼 노동을 이용했다”고 주장했다. 오픈AI 프로젝트에 참여한 근로자들은 시간당 평균 1.46달러(약 1870원)를 받았다. 가장 많은 임금을 받은 사람도 시간당 3.74달러(약 4800원)를 넘지 못했다.

케냐 노동자들을 고용한 샌프란시스코의 아웃소싱 기업 ‘사마’ 측은 “프로젝트를 둘러싼 우려를 인식하고 지난해 3월 오픈AI와의 계약을 종료했다”며 뒤늦게 ‘노동자를 보호하고 기업이 따라야 할 명확한 지침을 정하는 법안을 제정하기 위한 노력을 지지하겠다’는 입장을 밝혔다.

이윤정 기자 yyj@kyunghyang.com