‘안전’ 위해 지켜보는 AI, 노동자 감시하는 눈 될까

AI의 양면성, “알고리즘 뒤 사용자 봐야”

▲ 생성형 AI 제작

인공지능(AI)이 위험을 감지하고 사고를 예방하는 기술로 산업현장에 들어오고 있다. 하지만 안전을 위해 수집한 노동자의 움직임과 생체정보가 업무속도와 성과를 평가하는 데 활용될 경우 AI가 노동자를 감시·통제하는 수단으로 바뀔 우려도 제기된다. 최근에는 AI가 사람을 채용하고 관리하다 해고까지 판단한 사례가 등장하면서 AI에 어디까지 관리 권한을 맡길 것인지도 과제로 떠올랐다. 17일 가 안전과 감시라는 AI의 양면성을 들여다봤다.

미국 AI 실험기업 앤던랩스가 운영하는 샌프란시스코 '앤던마켓'에서는 AI 점장 '루나'가 매장 운영을 맡고 있다. 루나는 구인공고를 내고 지원자를 면접해 직원을 채용한 데 이어, 최근 직원 한 명의 근태와 규정 위반 등을 토대로 해고를 결정했다. 미리 정해진 지표에 따라 노동자를 업무에서 배제하는 기존 자동화와 달리 대규모언어모델(LLM) 기반 AI가 관리자로서 해고 여부를 판단한 사례다.

전문가들은 노동현장에 도입되는 AI가 감시·통제 도구로 작동할 가능성에도 주목하고 있다. 산업안전을 목적으로 한 노동자의 위치·행동·생체정보가 성과평가나 징계 등 다른 목적으로 활용될 수 있다는 것이 쟁점이다.

장여경 정보인권연구소 상임이사는 AI가 산업안전을 위한 도구인 동시에 노동자를 감시·통제하는 수단이 될 가능성을 짚었다. AI가 기존 자동화와 달리 노동자의 데이터를 분석한다는 것이다.

산업안전에서도 AI 활용 범위가 넓어지고 있다. 장 상임이사는 물류센터에서 노동자들이 동작 감지 센서를 착용하고 일하거나, 일부 사업장에서 '로봇개'가 작업현장을 촬영하며 안전장구 착용 여부 등을 확인하는 사례를 들어 "산업안전을 위한 모니터링이 기존 감시·모니터링의 단순 연장인지 질적인 차이가 있는지 중요한 쟁점"이라고 말했다.

차이는 노동자를 관찰한 뒤 정보를 처리하는 방식에서 나타난다. 장 상임이사가 지난 13일 김용균재단 주최 'AI가 노동현장과 노동안전에 미치는 영향' 포럼에서 밝힌 연구에 따르면 기존 CCTV는 관리자가 영상을 직접 확인해야 했는데 AI가 결합하면 스마트폰과 센서, 웨어러블 기기 등에서 모은 노동자의 위치와 움직임을 대량으로 처리해 실시간으로 분석할 수 있다. 심박수나 체열 같은 정보까지 분석 대상이 된다.

장 상임이사는 "노동자 또는 업무와 관계된 데이터를 대량으로 수집하고 처리해서 알고리즘으로 실시간 분석해 개인별로 적용하는 것도 가능하다"며 "업무를 배정 및 평가하거나 보상·징계하는 인사 전반이 알고리즘에 기반하는 것"이라고 설명했다.

특히 안전을 위해 모은 정보가 안전에만 사용되지 않을 가능성을 우려했다. 장 상임이사는 "안전 목적으로 데이터들을 수집하는데 노동자들에 대한 성과관리나 징계 같은 다른 목적으로 손쉽게 적용될 수 있다"며 "다만 당사자인 노동자들이 알 수 없다는 게 문제"라고 지적했다.

AI가 노동강도를 높여 오히려 안전을 위협할 가능성도 제시됐다. 노동자의 업무속도와 성과를 계속 측정해 개인별 목표를 부여하면 관리자가 직접 지시하지 않더라도 노동자는 알고리즘이 정한 업무량과 속도에 맞춰 일하게 된다. 장 상임이사는 이 같은 모니터링이 "업무강도를 높이고 만성적인 스트레스와 안전상의 위험을 유발할 수 있다"고 설명했다.

그는 "AI가 어떤 정보를 수집하고 어디에 사용하는지 노동자가 알 수 있어야 한다"고 주문했다. AI가 내린 결정에 설명을 요구하고 이의를 제기할 수 있어야 하며, 징계·해고처럼 노동자에게 중대한 영향을 미치는 결정에는 사람이 개입해 다시 판단하는 절차가 필요하다고 봤다. AI 도입과 운영 과정에 노동자와 노조가 참여하는 방안도 제시했다.

AI가 판단을 내렸다는 이유로 사용자 책임까지 사라질 수 없다는 점도 강조했다. 장 상임이사는 "알고리즘이 스스로 하는 게 아니라 사용자가 어느 정도를 설정하는 것"이라며 "알고리즘 뒤에 있는 회사를 간과하면 안 된다"고 말했다.