인공지능, 노동을 지배한다

[경향신문] 배달 플랫폼 노동자들의 배치와 통제가 AI 기술로 이루어지고 있다.

AI가 노동을 고용, 지시·감독하고 보수를 정하는 데 활용되는 것이다.

그러나 AI 기반 노동자 관리·경영 시스템은 노동자 인권과 안전에 심각한 위험이 될 수 있다.

Photo by Matthew Henry on Unsplash

쿠팡플렉스 공지를 보면 하루에도 수차례 배송단가가 바뀐다. 지난 2월 12일 서울 강남구 대치4동의 경우 오후 2시 13분 박스 물량과 비닐포장 물량의 배송단가가 각각 1500원, 1300원인데 불과 23분 뒤에는 1750원, 1550원으로 변했다. 같은 날 오후 5시 39분 역삼지역의 박스, 비닐포장 단가는 2500원, 2300원에서 7분 후 3000원, 2800원으로 바뀌었다. 수시로 ‘마감 임박! 지금 신청하세요!’라는 안내문이 떠 업무에 나설 것을 채근한다.

배민커넥터 앱도 비슷하다. 내가 선택한 배송 수단에 맞춰 다녀오기 편한 주문 위주로 먼저 뜬다. 재빨리 선택하지 않으면 다른 사람이 가져가기 때문에 수시로 앱을 들여다보게 된다. 다녀오기 편하거나 동선이 겹치는 콜을 잡기 위해 주행 중에도 앱에서 눈을 떼기 어렵다. 이렇게 콜을 잡기 위해 앱을 보는 시간은 근무시간으로 인정되지 않는다.

페이스북이나 트위터 같은 소셜미디어를 종종 카지노에 비유하기도 한다. 큰 의미 없는 게시물을 죽죽 보다가 흥미로운 콘텐츠를 만났을 때의 기쁨이 마치 카지노에 당첨됐을 때와 비슷하기 때문이다. 앱을 통해 일감을 얻는 플랫폼 노동도 이와 비슷하다. 가장 높은 금액을 부르는 곳으로, 가장 다녀오기 좋은 ‘꿀콜’을 바라며 플랫폼을 이용하다보면 일터가 경매장 혹은 카지노로 변한다.

인공지능(AI)은 이런 심리를 이용해 노동자들이 스스로 일에 집중하게 만든다. 인공지능을 이용해 날씨나 수요에 따라 필요 인력을 예측하고 이를 확보하기에 적정한 수준으로 단가를 정한다. 인공지능은 배달원의 동선과 주문한 음식의 특성 등을 고려해 가장 적임자인 라이더를 자동으로 배정하고, 최적의 동선까지 추천해주기도 한다. 지난 13일 배달의민족(배민)이 도입한 인공지능 추천배차다. 인공지능이 노동을 고용, 지시·감독하고 보수를 정하는 데 활용되는 것이다.

AI로 더 철저하고 교묘해진 노동통제

라이더유니온 측은 배민라이더스가 지난해 11월 도입한 ‘프로모션’을 인공지능을 학습시키기 위한 일종의 실험이라고 봤다. 배민을 운영하는 우아한형제들에 따르면 프로모션은 겨울철 늘어나는 주문량에 비해 라이더가 부족해 라이더의 참여를 독려하는 차원에서 진행한 것이다. 프로모션은 날씨와 수요 등을 고려해 기본 배달료 3000원에 더해 500~2000원 정도를 더 주는 것인데, 지난 1월 31일부로 종료됐다.

우아한형제들 관계자는 “날씨가 춥거나 라이더가 기피하는 지역에 주문이 몰리면 일을 꺼리는 분들이 많은데 그러면 배달이 늦어지거나 배달이 취소되는 등 서비스의 품질이 떨어질 수 있어서 한정적으로 도입했다”며 “겨울임에도 배달 품질이 안정적으로 유지된다고 판단해 종료했다”고 밝혔다.

라이더유니온 측은 프로모션을 비롯한 배민의 잦은 정책 변경이 이윤을 극대화하고 최적의 배달료를 찾기 위한 데이터 쌓기와 무관하지 않다고 보고 있다. 구교현 라이더유니온 기획팀장은 “그간 라이더들이 근무해 확보한 데이터를 기반으로 다음 날 라이더 수와 주문수를 예측해 배달료를 책정하는 방식이었던 것 같다”며 “실제 프로모션 금액 변동에 따라 라이더 수가 얼마나 증감하는지 데이터를 축적하고 차후에 이를 가장 낮은 배달료로 가장 적정한 수의 라이더를 확보하는 최적값을 찾는 데 쓰려는 것 같다”고 말했다.

이런 주장은 사측이 수집하는 데이터의 종류와 알고리즘을 공개하지 않아 ‘추정’에 불과할 뿐이지만 전문가 사이에선 개연성이 충분하다는 의견이 있다. 하대청 광주과학기술원 기초교육학부 교수는 우버 사례 등을 볼 때 인공지능 기술이 강력한 노동통제의 수단으로 변하고 있다고 봤다. 하 교수는 “플랫폼 기업들이 노동을 교묘하게 통제 유도할 수 있는 수단을 확보한 것 같다”며 “공식적으로는 프리랜서 계약에 의해서 자유로운 노동이 가능한 것처럼 말하지만 알고리즘을 사용해서 특정한 시간에 더 많은 콜을 받아서 노동하도록 하거나 콜을 적절히 받지 않는 사람에게는 페널티를 주는 형태로 훨씬 더 정밀하고 교묘한 방식의 노동통제가 가능해졌다”고 말했다.

배달 노동도 언제 콜을 받고, 거절했는지, 배달에 얼마나 시간이 걸렸는지 등 실시간으로 데이터를 축적·분석해 대응수단을 제공하면서 감시와 통제가 편해졌다. 구교현 팀장은 “교섭 시작 전에 프로모션을 종료시켜 현장 라이더 사이에선 괜히 노조가 들쑤셔서 배달료만 깎였다는 여론이 조성됐다”며 “20세기의 전통적인 자본가들이 했던 것과 동일하게 노동자 사이의 갈등을 유발하는 노동통제를 인공지능 같은 신기술을 동원해서 하는 것 같다”고 말했다.

‘배달 프리미엄’이 오히려 안전을 해칠 수 있다는 지적도 있다. 장귀연 전국불안정노동철폐연대 부설 노동권연구소 소장은 “20대 청년 산재 사망사고의 절반이 배달 라이더일 정도로 굉장히 위험한 일인데 날씨에 따라 프리미엄을 주는 방식으로 운영하면 오히려 사고 위험이 높아진다”고 말했다. 이런 배경에서 라이더유니온은 기본 배달료를 4000원으로 인상한 ‘안전 배달료’를 요구하고 있다.

배달의 민족 배달원이 도로를 달리고 있다./배달의 민족 제공

라이더의 안전을 위해 인공지능을 쓴다면 먼저 주행 중 콜을 볼 수 없도록 개선해야 한다는 요구도 있다. 최근까지 7년 동안 라이더로 일한 경험이 있는 유상석 동남권 서울시 노동자종합지원센터 거점사업팀장은 “점심·저녁·야식 시간대와 축구·야구 경기 등 이벤트가 있는 때를 제외하면 오더수가 적어 기사들은 계속 휴대폰을 볼 수밖에 없다”면서 “견물생심이라고 배달 코스가 지금 가는 곳과 비슷하거나 거리가 가깝다면 주행 중에도 누를 수밖에 없다”고 말했다. 유 팀장은 “위성항법시스템(GPS)으로 위치가 다 찍히기 때문에 주행 중에 클릭할 수 없게 제한하는 건 쉬운 일일 텐데도 플랫폼 사들이 개선하려 하지 않는다”고 말했다.

인공지능의 도움을 받아 진화한 경영을 ‘뉴테일러리즘’으로도 부른다. 노동자의 작업 시간과 동선을 분석해 관리하는 과학적 경영을 뜻하는 ‘테일러리즘’이 빅데이터, 인공지능과 결합해 노동자의 일거수일투족을 지시하는 노동관리로 바뀐 것이다. 쿠팡의 경우 물류창고에서 인공지능이 인간 작업자에게 어떤 구역에서 어떤 물건을 집어올지를 지시하고, 작업자는 인공지능이 지정한 동선대로 따라가기만 하면 된다. 아마존도 쿠팡과 비슷하다.

AI 도움 받는 경영

인공지능은 배달 순서를 고려해 배달원이 차에 짐을 실을 위치와 최적의 동선까지 알려준다. 가령 가장 나중에 배달할 짐은 차량의 가장 안쪽 구역에 넣을 수 있도록 미리 지정된 코드로 적어놓는다. 일을 오래하지 않은 사람도 효율적으로 일할 수 있게 만드는데, 숙련의 차이를 없앤다는 뜻이기도 하다.

우버의 경우 앱에서 로그아웃하려는 운전자에게 ‘몇 번만 손님을 더 태우면 정확히 얼마를 더 벌어서 목표한 액수를 채울 수 있다’는 식의 메시지를 보낸다. 지금 태운 승객을 목적지에 내려주기도 전에 근처에 있는 다른 고객의 콜을 받을 수도 있다. 직접 강제하진 않지만 인간의 심리를 이용해 더 많은 노동을 부추긴다.

인공지능을 이용해 시장의 수요와 공급에 정확히 일치하는 가격을 찾을 수도 있다. 한 업계 전문가는 “배달 단가는 그날그날의 날씨와 수요·공급의 차이에 따라 결정된다”며 “예를 들어 특정 지역에서 100명의 배송기사를 모집하고 싶은데 한 박스에 1000원이라고 할 때 50명밖에 모집이 안 되면 단가를 1200원으로 올려 목표한 인원이 다 차면 그 가격에서 배송단가를 결정한다”고 설명했다.

모빌리티 플랫폼의 경우 GPS 신호와 제동장치를 밟는 횟수 등을 앱을 통해 수집해 과속과 난폭 운전 여부를 가려 운전자를 평가할 수도 있다. 각종 센서 장치로 행동을 감시해 이를 경영에 활용하는 것이다.

플랫폼이 노동자의 운전 습관 등 다양한 행동을 추적할 수 있다는 생각에서 노동자 스스로 자기 행동을 검열하거나 알고리즘에 저항하지 않고 적응하는 길을 택할 가능성도 있다. 이광석 서울과학기술대 IT정책전문대학원 교수는 “우버 운전자가 분쟁을 해결하기 위해 고객센터에 전화해봐야 인공지능의 기계적 답변만 듣게 되는 상황에서 취할 수 있는 방식은 이 과정의 무의미함을 알고 지금 주어진 알고리즘의 규칙과 통제 방식에 스스로 수긍하는 것”이라고 말했다.

이 교수는 이를 ‘감시 자본주의’라는 맥락에서도 바라봤다. “노동자나 소비자의 신체나 행동에서 데이터를 끄집어내는 행위는 감시를 전제로 한다. 지리정보이든, 시간이나 동작에 관한 정보이든, 안면인식으로 얻은 생체정보이든 신체의 움직임을 포착하고 데이터를 끄집어내 알고리즘을 돌려 잉여 상품과 서비스를 만들어내지 않는 한 자본주의가 지탱하기 어려운 새로운 국면에 들어섰다.”

‘인간의 쓸모없음’이라는 허위 담론

돈이 필요한 사람들이 더 효율적으로 일할 수 있게 도와준다는 점에서, 서비스의 품질을 높일 수 있다는 점에서 플랫폼 기업이 인공지능 알고리즘을 이용하는 것을 나쁘다고만 할 순 없다. 문제는 이런 알고리즘이 직접적인 지휘나 지시 관계를 은폐한다는 점이다. 고용관계를 인정받기 어렵게 해 노동권 보호의 사각지대에 놓이게 한다.

우버는 별점이 4.5점 이하일 경우 콜을 주지 않고 재교육을 받도록 하는데, 운전자는 낮은 평점을 준 사람에게 이유를 물어보거나 협의할 방법이 없어 플랫폼의 별점 정책에 일방적으로 휘둘릴 수밖에 없다. 장귀연 소장은 “부업으로 우버 기사로 활동한 마이너리그 선수가 메이저리그에서 성공한 후 한 첫 인터뷰에서 하고 싶은 말을 묻자 ‘우버 기사할 때 나에게 4점을 준 사람이 누구인지 궁금하다’였다”며 “평점이 앱에서 일감을 얻는 사람에게 얼마나 큰 스트레스가 될 수 있는지 보여준다”고 말했다.

국내 한 인력 중개 플랫폼을 이용하는 프리랜서 사진가 ㄱ씨도 “트러블이 있었던 고객이 악플을 남겼는데 지워달라고 연락할 수가 없어 곤란했다. 고객이 갑이 되고 난 을의 위치를 벗어나지 못하는 구조”라고 말하기도 했다. 기계가 데이터를 토대로 매긴 점수라 공정하다고 말할 수 있지만 데이터 자체가 편견이나 감정에 오염됐을 경우 인공지능의 결정 역시 공정하다고 말할 수 없다.

구글과 페이스북, 마이크로소프트 등 기술기업들의 인공지능 혁신의 밑바닥에도 인간의 노동이 깔려 있다. 인공지능을 학습시키기 위해 사람이나 고양이·개·배·자동차 등 사진과 영상에 짧은 이름표를 달아주는 ‘데이터 레이블링’이 대표적이다. ‘21세기형 인형 눈붙이기 아르바이트’로도 불리는 이런 작업에는 글로벌 저임금 노동자들이 동원된다. 여기에 ‘아마존 메카니컬 터크’(AMT)나 국내의 ‘크라우드웍스’ 같은 인력 중개 플랫폼이 끼어 있다.

현실에선 이런 인간의 노동은 가려지고 개발자들과 인공지능 기술이 모든 문제를 해결할 수 있다는 듯 선전된다. 하대청 교수는 “기술기업들은 불평등 구조를 이용한 수익 극대화를 정당화하기 위해 ‘인간의 쓸모없음’이라는 논리를 내세우지만 동의할 필요가 전혀 없는 허위 담론에 불과하다”며 “실제 인간 노동은 여전히 가치가 있고 그 정당한 대가를 제공하도록 기업에 요구해야 한다”고 말했다.

그는 “기술이 도입된다고 노동조건이 반드시 악화되는 것은 아니라 북유럽의 경우 오히려 노동자들이 기술도입을 적극적으로 수용하는 입장이다”면서 “기업 이사회에 노동자가 참여하는 방식이 논의되듯 플랫폼 노동자들이 경영에 참여해 자신들의 근무조건에 영향을 미치는 중요한 정보를 적절한 범위에서 공유할 수 있는 것이 하나의 방법이 될 수 있다”고 말했다.

인공지능 기술을 내세운 플랫폼 노동에 가려진 인간의 노동을 가시화하는 작업이 선행되어야 한다는 제안도 있다. 플랫폼에서 일하는 사람들 역시 보호를 받아야 할 노동자이며 사회적 책임을 회피하는 사용자들이 고용관계를 인정하도록 만드는 것이다. 박가열 한국고용정보원 연구위원은 “기존에는 노동권 보호 대상이 조직된 노동, 고용된 사람 중심으로만 되어 있었는데 사회보험의 개념을 도입해 플랫폼에서 개별적으로 노동하는 사람들도 포함해야 한다”며 “진정한 혁신은 단순히 수익 모델의 혁신이나 제도의 미비를 편법으로 이용한 혁신이 아니라 가치 창출에 기여한 많은 사람의 이해와 요구를 충족시키는 것”이라고 말했다.

『

AI 면접 직접 해보니

AI 면접의 결과표 예시./마이다스아이티 제공

인공지능(AI)이 인력 채용 과정에 본격적으로 도입되고 있다. AI 면접으로 흔히 불리는 AI 역량검사를 활용하는 국내 기업들은 850여 곳에 이른다. 기자는 지난 1월 중순 국내의 대표적인 AI 역량검사 개발업체인 마이다스아이티를 찾아 취재 목적을 밝히고 AI 면접을 체험했다. 기자는 가상으로 영업직에 지원했는데 최종 등급은 S~D 중 B였다. 업체 측은 지원자의 나이를 생각하면 나쁘지 않다고 설명했다.

AI 면접은 사전세팅부터 최종제출까지 다섯 단계를 거치는데 실제 성향과 역량을 확인하는 단계는 질의응답과 역량게임이다. 질의응답은 응시자의 성향을 파악하는 것인데 “사소한 거짓말 정도는 쉽게 하는 편이다”, “어떤 일에 실패했어도 반드시 다시 도전한다”와 같은 문항들에 ‘매우 그렇지 않다’에서 ‘매우 그렇다’까지 5가지 척도를 골라 답하는 것이다. 좋은 인상을 주기 위해 어떤 걸 골라야 할지 생각하다보면 시간이 어느새 지나가 버린다.

업체 관계자는 “생각할수록 의식적인 답변을 하게 된다”며 “성향체크는 무조건 솔직하게 하는 게 바람직하다”고 말했다. 기자 역시 100문항 중 대여섯 개를 체크하지 못하고 지나쳤는데 심할 경우 ‘긍정응답 왜곡’이라는 결과를 받을 수 있다. 지원자가 솔직하지 않았다는 부정적인 평가다.

‘카드 뒤집기’나 ‘공 무게 맞추기’ 등이 나오는 역량게임은 문제를 설명하는 지문을 제대로 읽고 이해하지 않으면 전체 게임을 망치기 쉬웠다. 지능검사와도 비슷해 보였지만 그보다는 위험을 얼마만큼 감수하는지 등 사람의 성향과 집중력을 살피는 측면이 강하다. 업체 측은 “게임은 직무별·개인별로 난이도와 문항이 달라진다”며 “다만 문제를 이해하는 게 중요해 최대한 설명 부분을 주어진 시간이 끝날 때까지 정독하는 게 중요하다”고 설명했다.

카메라가 지원자의 얼굴을 촬영하는데 업체의 설명에 따르면 외모가 아니라 호감도를 보는 것이라고 한다. 경영지원이나 서비스, 영업직에서 높은 평가를 받으려면 무조건 밝고 적극적으로 말하는 게 중요하다.

정동진 마이다스아이티 웹솔루션기획실장은 “면접 영상 데이터를 전문 면접관에게 보여주고 느낌만 볼 때 ‘괜찮다’, ‘아니다’라고 평가해달라고 한 후 잘 웃거나 긍정적인 리액션을 하거나 안정적인 목소리 톤 등 호감 평가를 받은 요인들을 추출해 알고리즘을 학습시켰다”며 “이런 과정을 거쳐 호감도 상하 그룹의 평가 정확도가 인간 면접자의 90% 정도 나온다”고 설명했다.

그는 인공지능 면접의 장점이 효율성을 높이고 편향성을 줄인 데 있다고 봤다. 정 실장은 “면접관들은 아무리 최적의 상태로 면접을 본다고 해도 그날 컨디션에 따라서 면접자 한 명에 집중하기 어렵고 집중해도 그 면접관이 갖는 경험과 지식의 한계로 면접자의 역량을 오롯이 반영할 수 없다”며 “AI 면접은 이런 한계를 줄이고 자기소개서 등으로 필터링 되어 면접 기회조차 얻지 못한 많은 응시자에게 면접을 볼 수 있는 기회를 줄 수 있다”고 말했다.』

주영재 기자 jyj@kyunghyang.com