소리 없이 들어오는 AI는 노동현장을 어떻게 바꾸고 있는가 [김용균재단이 바라본 세상]

[김용균포럼 스케치] 현장 노동자가 말하는 작업장 AI 도입 현황과 문제점

[예진]

▲ AI가 노동 현장과 노동안전에 미치는 영향, 김용균포럼 ⓒ 김용균재단

AI 정부, AI 산업, AI 노동…

인공지능이 빠르게 확산하면서 일상은 물론 산업, 정부 정책 전반에 영향을 미치고 있다. 정부는 AI 기술을 행정에 도입하고 'AI 민주 정부'를 실현하겠다고 나섰다. 피지컬 AI, AI 데이터센터 인프라 확충에 대규모 예산을 투입하고 규제를 완화하는 '3대 메가프로젝트'도 빠른 속도로 추진 중이다.

지난 25일 열린 '2027년 예산안 당정협의'에서는 역대 최대 규모로 추정되는 예산을 AI 포함 5대 전략 분야에 집중 투자하기로 했다. 법·제도적 지원도 아끼지 않는다. 산업 진흥에 초점을 맞춘 'AI 기본법'이 제정된 후, 세부적인 영역에서 개정 논의가 이어지고 있다. 데이터센터 특별법이 제정되고 최근에는 AI 개발에 원본 개인정보를 활용할 수 있도록 하는 개인정보보호법 개정안도 국회 본회의를 통과했다.

노동현장에는 노동자도 모르게 AI가 도입된다. AI가 안전을 해치고 노동력을 대체하며 일자리를 위협하는 문제는 현실로 다가오고 있다. 하지만 여러 문제에도 불구하고 현재 가장 중요하게 여겨지는 건 '속도'다. 'AI 시대'에 뒤처지면 안 된다는 압박, 세계적인 발전에 발맞춰야 도태되지 않는다는 불안이 지배적이다.

그래서 AI가 가져올 효과나 문제점, 도입 과정에 대한 논의는 이루어지지 않는다. 그저 기술을 개발하고 도입하기에 급급하다. 김용균재단은 현재 AI 도입 현황과 그로 인한 노동과정의 변화를 살피기 위해 8월 13일 'AI가 노동 현장과 노동안전에 미치는 영향'을 주제로 포럼을 열었다.

정보인권연구소 장여경 연구원이 발제를 맡고 국민건강보험 고객센터 김금영 지부장, 라이더유니온 구교현 지부장, 이랜드노동조합 정주원 사무국장, 보건의료단체연합 전진한 정책국장, 의료연대본부 배동산 사무국장이 토론으로 참여했다. 사회는 서교인문사회연구실 전주희 연구원이 맡았다.

▲ AI가 노동 현장과 노동안전에 미치는 영향, 김용균포럼에서 정보인권연구소 장여경 연구원이 발표를 하고 있다. ⓒ 김용균재단

AI 자동화로 확대되는 노동자 감시·통제

장여경 연구원은 한 버스 회사에서 CCTV를 활용해 노동조합 선거에 개입한 사례를 소개했다. CCTV로 운전자가 노동조합 선전물을 얼마나 쳐다보는지 모니터링하고, 노동조합 선전물에 관심을 가지는 노동자를 선별해 관리한 사업장이었다. 당시 증언한 노동자가 "의식적으로 선전물을 쳐다보지 않는다"고 말할 정도였다고 한다. CCTV를 통해 사람이 감시하고, 선별해서 통제·관리한 것이다.

AI가 도입되면서 이러한 감시와 통제는 긴밀하게 통합된다. 중국에서는 CCTV, 와이파이 사용 기록은 물론 스마트 의자를 활용해 노동을 감시하는 사례가 확인됐다. CCTV로 휴대전화나 컴퓨터 화면을 확인하고, 스마트 의자가 생체정보를 측정해 자리 비운 시간을 계산하는 것이다.

사무직 노동자의 마우스를 추적해 초 단위로 체크하고, 마우스를 움직인 시간만 일당을 책정하겠다는 사업장도 있었다. 예전에는 사람이 이를 지켜봤지만, 이제는 자동으로 AI가 데이터를 수집하고 모니터링한다. 장여경 연구원은 "질적으로 다른 방대한 감시가 이뤄지고, 이것이 노동자 관리·통제와 유기적으로 통합된다는 점에서 이전과 다르다"고 AI 도입으로 인한 변화를 설명했다.

▲ AI가 노동 현장과 노동안전에 미치는 영향, 김용균포럼에 라이더유니온 구교현 지부장이 토론자로 참여하고 있다. ⓒ 김용균재단

AI가 결정하면 해고? 사람은 지워져

미국 휴스턴 공립학교에서 학생 성취도를 활용한 알고리즘 기반 교사 평가 시스템이 운영됐고, 이를 근거로 교사들의 재계약이나 해고가 결정됐다. 알고리즘은 학생 평균 점수가 252점 나와야 하는데 248.4점이 나왔다며 낮은 평가를 줬다. '평균 점수 252점'에 대한 판단 근거는 밝혀지지 않았다. 교육청은 알고리즘을 조달받았기 때문에 그 내용을 모르고, 민간업체는 영업비밀이라는 이유로 공개할 수 없다고 했기 때문이다.

교사들은 소송을 통해 공공부문에 비밀 알고리즘 도입을 중단하라고 요구했고, 일부 승소했지만, 여전히 알고리즘을 도입하려는 시도에 맞서 싸우고 있다. 이 사례는 AI 알고리즘을 어디까지 활용해도 되는지 질문을 던진다.

라이더유니온 구교현 지부장에 따르면, 배달노동자에게 업무를 배정하고, 건당 단가인 보수를 책정하는 것, 프로모션 운영, 패널티 지급 모두 AI를 활용해 이루어진다. 알고리즘은 어떤 배달노동자에게 콜을 배정할지 판단한다. "건당 단가가 낮아도 열심히 잡는지, 충성도를 보는 거죠. '절박함 지수'를 평가한다는 얘기가 있어요. 소위 '똥콜'이라고 부르는 낮은 단가의 콜을 잡을 가능성이 높으니까" 그에 따라 업무를 배정하는 식이다.

여러 배달노동자에게 동시에 콜을 보여준 뒤 더 낮은 단가의 콜을 수락하는 라이더에게 배정하기도 한다. 배달 주문이 들어와도 곧바로 모두에게 콜이 안내되지 않는다. 누적된 데이터에 따라 배달노동자를 관리하고, 배달 플랫폼이 선호하는 노동자에게 몇 초 먼저 콜을 띄운다.

중요한 건 AI 알고리즘을 통해 이루어지는 평가는 그 근거를 확인할 수도 없고, 이의제기하기도 어렵다는 점이다. 내가 왜 해촉 대상이 되었는지, 왜 나에게 '똥콜'만 뜨는지 묻고 싶지만 인간 관리자가 아닌 AI 알고리즘은 답할 수 없다. 평가나 보상, 제약을 납득할 수 없고, 의사결정이 투명하지 않기에 심리적인 스트레스도 늘어난다.

한편 사용자의 책임성은 은폐된다. 표면적으로는 AI가 자율적으로 판단을 수행하는 것처럼 보이지만, 그 뒤에는 사람이 있다. 무엇을 학습하는지에 따라 결과가 달라지고, 그 과정에서 편향이 발생한다. 그런데 AI를 통해서 발현된다는 이유로 이를 자율적인 것으로 여긴다. 장여경 연구원은 "알고리즘 뒤에 사람이 있다는 것을 잊으면 안 된다"고 강조했다.

▲ AI가 노동 현장과 노동안전에 미치는 영향, 김용균포럼에 이랜드노동조합 정주원 사무국장이 토론자로 참여하고 있다. ⓒ 김용균재단

안전을 핑계로 도입되지만 안전을 위협하는 AI

이처럼 많은 사업장에 AI가 도입되고 있다. CCTV와 같은 기존 시설물에 'AI 스마트 기능'이 더해지는 방식이다. 회사는 "기능이 달라졌을 뿐, 다른 건 없다"는 말로 가볍게 설명한다. 현대제철 당진공장에 투입된 '로봇 개'처럼 안전을 빌미로 새로운 장비를 도입하는 경우도 많다. '안전을 위해서라는데, 위험한 업무를 대신한다면 괜찮은 거 아닌가?' 노동자들은 혼란스럽다.

실제 현장에서는 평가가 나뉜다. 산업안전 측면에서 도입되는 AI는 긍정적이라는 의견도 있다. 붕괴할 수 있는 위험한 지역에 사람 대신 들어가 작업할 수 있는 원격 드론의 경우에는 사고 위험 지역 출입 자체를 통제한다는 점에서 도움이 되기 때문이다.

하지만 사람을 중심으로 설계된 일터에 기계가 많아졌을 때의 위험을 우려하는 의견도 있다. 정주원 이랜드노조 사무국장은 "피지컬 AI와 자동화 기기가 도입되면서 사람과 기계가 충돌하는 사고 위험이 높아진다"고 말했다. 기계가 정지 후에 접근한다는 안전 수칙을 세웠지만, 현장 작업 속도를 맞추기 위해서 이를 준수하지 않는 경우가 많다. 정해진 시간 내에 작업을 마치기 위해서는 위험한 줄 알면서도 기계 옆으로 접근하게 된다는 것이다.

자동화 설비 고장으로 사고가 발생해도 그 책임을 현장 노동자의 숙련도나 과실로 몰아갈 가능성도 높다고 보았다. 작업 속도나 환경, 안전관리체계 등 산업안전의 구조적인 문제를 개선하기보다 AI로 책임을 회피할 수 있기 때문이다.

플랫폼 노동에서는 알고리즘이 직접적으로 안전을 위협하기도 한다. 다섯 시부터 여덟 시까지 배달 10건을 마치면 2만 원을 더 지급하는 추가 보상 프로모션을 운영하는 것이다. 2만 원이면 배달 노동자가 최소 2시간을 일해야 벌 수 있는 금액이다.

구교현 지부장은 "폭염 시기에 2시간을 아낄 수 있는 건 엄청난 혜택이라, 교통 신호 위반을 고민하게 될 수밖에 없다"고 말했다. 알고리즘이 보상체계를 이용해 과속과 과로를 유도하고 안전을 위협하는 것이다. 장여경 연구원은 플랫폼 노동에서 알고리즘을 관리하는 방식이 다른 업종으로 확대될 것이라고 말했다.

▲ AI가 노동 현장과 노동안전에 미치는 영향, 김용균포럼에 건강보험공단 고객센터지부 김금영 지부장이 토론자로 참여하고 있다. ⓒ 김용균재단

노동자의 숙련을 강탈하는 AI

AI를 발전시키기 위해서 수집하는 데이터의 종류와 양도 엄청나게 늘었다. 스마트폰, 센서, 태블릿, 웨어러블 기기, 조끼, 헬멧 등 실시간으로 모든 데이터를 수집한다. 이는 노동자를 인격 주체가 아니라 정량적인 지표나 데이터 포인트로 대상화한다는 점에서 문제가 된다.

한편에서는 과거 정량화되는 부분에서만 업무를 인정했는데 비정형화된 직무도 인정할 수 있으니 좋은 영향을 미칠 것이라는 이야기도 있지만, 이 역시 우려가 크다. 과거에는 회사가 가져갈 수 없는 노동자 고유의 숙련도가 있었다. 그러나 AI를 통해서는 노동자의 암묵적 지식을 중앙집중화할 수 있게 된다. 장여경 연구원은 "표준화하고 기계화할 수 있다는 것은 강탈되지 않았던 숙련 지식이 기계적으로 강탈되는 것"이라고 표현했다.

고객센터는 초기부터 빠르게 AI를 도입한 업종 중 하나다. AI를 통해 단순 민원 상담은 줄었을지 몰라도 어렵고 힘든 상담은 늘어났다. AI 상담으로 문제가 해결되지 않아서 불만이 누적된 고객을 응대하는 것도 상담노동자의 몫이 된다. 현장에서는 AI가 인간의 전문적인 상담을 대체할 수 없다는 것이 확인되고 있지만, AI 상담은 점차 범위를 넓히고 있다. 그리고 이를 위해 노동자의 경험, 데이터를 학습한다.

김금영 국민건강보험 고객센터 지부장은 "AI는 저절로 똑똑해지는 게 아니라 현장 노동자의 경험과 노하우를 배우는 것"이라고 말했다. 상담노동자의 목소리 톤, 억양, 상담 경험, 응대 방식, 노하우, 민원 해결 과정 등 여러 데이터를 학습하면서 발전하는 것이다. 그러나 노동자는 자신의 데이터가 얼마나, 어디까지 활용되는지 알 수 없다. 동의하든 동의하지 않았든 데이터가 된다. 그저 일방적으로 숙련을 빼앗기고, AI에게 일자리를 위협받을 뿐이다.

김금영 지부장은 데이터를 노동자의 권리와 분리할 수 없다며, 노동자의 업무를 지원하는 방향으로 AI를 활용할 수 있도록 도입 과정에서 노동조합과의 협의가 필요하다고 말했다.

▲ AI가 노동 현장과 노동안전에 미치는 영향, 김용균포럼에 보건의료단체연합 전진한 정책국장이 토론자로 참여하고 있다. ⓒ 김용균재단

AI 신화, AI가 모든 것을 해결할 수 있는가

전진한 보건의료단체연합 정책국장은 AI 신화의 한계를 지적했다. 의료분야의 AI는 의사, 간호사를 대체할 수 있을 만큼 뛰어나다는 연구가 앞다퉈 발표됐다. 그러나 실제 의료 AI는 통제된 환경에서만 높은 성능을 보일 뿐, 현장에서는 실효성이 없다는 것이 확인되고 있다. '낙상 위험 예측 임상 의사결정 지원 시스템(CDSS)'은 낙상 확률을 계산해 고위험군을 관리하도록 간호사에게 알리는 역할을 한다. 연령이 낮고 위험 약물을 복용하지 않으면 낙상 위험이 낮다고 판단하고, 연령이 높은 환자에게 가도록 안내하는 식이다.

실제로는 노령의 환자 옆에 보호자가 상주하고 있어서 상대적으로 위험도가 낮은데도 알림이 울리면 간호사는 확인해야 한다. 간호사의 판단에 따라 관리가 필요한 환자에게 집중할 시간이 줄어드는 것이다. 이는 오히려 노동강도만 높아지는 결과로 이어졌다. '욕창 단계 분류 모바일 어플리케이션'도 마찬가지다. 실험실과 달리 현실의 채도, 조명, 밝기에 의해서 색상을 명확하게 인지하지 못하고 단계 판독에 실패했다. 전진한 국장은 AI가 효용성이 없는데도 "비급여로 조금이라도 돈을 더 청구하기 위해서" 도입하는 것이라고 주장했다.

병원이 앞다퉈 AI를 도입하는 배경에는 정부의 지원이 큰 몫을 한다. 정부는 '지역·필수·공공의료 강화 추진 전략'과 'AI 기본의료 전략'을 발표하면서 "어디 살든 제대로 치료받는 모두의 의료보장"을 약속했다. 여기서는 AI를 활용해 의료공백을 보완하겠다는 방향이 제시됐다. 최소한의 의료인력 조차 없고, 공공병원이 부족하기 때문에 의료 현장에서 문제가 발생하는 것인데, 그에 대한 해결책은 없었다.

배동산 의료연대본부 사무국장은 돌봄 부문도 "영세한 민간업체 중심으로 운영되면서 노동자들이 저임금·고강도 노동에 시달리고 평균 근속도 짧아 인력 부족 문제가 심각하다"며 그런데 "반려 로봇 효돌이, 효순이를 개발하는 게 해결책이 될 수 있겠냐"고 물었다. 노동의 가치를 인정하고 사회적으로 존중하는 것, 양질의 일자리를 마련하는 것 등 본질적인 문제는 가려진다.

▲ AI가 노동 현장과 노동안전에 미치는 영향, 김용균포럼에 의료연대본부 배동산 사무국장이 토론자로 참여하고 있다. ⓒ 김용균재단

노동조합은 반대만 할 거냐

노동현장에 AI가 도입되는 것으로 인한 불안과 위협이 커지고 있지만, 동시에 기대도 있다. AI가 지원하면 '바쁘고 열악한 현장에 조금이라도 도움이 되지 않을까', '일이 쉬워지지 않을까' 하는 것이다. 챗GPT나 제미나이 같은 대화형 인공지능 서비스가 확대되면서 노동자 역시 이를 활용하는 이용자가 됐다. 직접 생성형 AI의 결과물을 경험하고 업무에 도움을 받으면서, 이제는 AI 없는 일상을 상상하기 어렵다고 말하는 노동자도 많다.

AI 도입을 무조건 반대하기는 어렵다는 고민도 생긴다. 그러나 이는 기술의 발전을 지원하느냐 저해하느냐, AI 도입을 허용하느냐 마느냐 이분법적인 문제가 아니다. AI가 어떤 목적으로 개발되고 어떻게 노동현장에 적용될지는 기술 자체가 결정하는 것이 아니기 때문이다. 누가 데이터를 통제하고, 어떤 기준으로 다루고, 결과를 어떻게 반영할 것인지 기술의 활용 범위와 정도, 영향을 함께 결정하는 것이 중요하다. 포럼을 마치며 장여경 연구원은 "회사의 권력을 강화하고 비용을 절감하기 위한 AI가 중점적으로 개발되고 있다며, 기술의 방향을 결정하는 과정에서 노동조합의 역할이 중요하다"고 강조했다.

덧붙이는 글 | 이 기사는 김용균재단 홈페이지에도 실립니다. 글쓴이 예진은 김용균재단 상임활동가입니다.