‘AI, 인간 대체 금지’…캘리포니아 주의회 통과한 ‘콜센터 법’

게티이미지뱅크

미국 캘리포니아 주의회가 ‘딥페이크 처벌법’과 함께 통과시킨 다양한 인공지능(AI) 규제 법안 중에는 ‘콜센터 노동자 인공지능(AI) 대체 금지법’도 있다. 급속히 발전하는 기술로부터 노동자를 보호하자는 취지의 법안인데, 주지사가 서명해 법률로 발효될지 주목된다.

캘리포니아 주의회는 지난달 30일(현지시각) 주 정부 및 지방 정부가 공공서비스 콜센터를 운영할 때 콜센터 노동자의 핵심업무를 인공지능으로 대체하지 못하도록 하는 법안(SB1220)을 가결했다. 개빈 뉴섬 캘리포니아 주지사는 이달 30일까지 이 법안에 서명할지를 결정해야 한다.

법안은 공공서비스 콜센터가 인공지능이 아닌 사람에 의해 운영되어야 한다고 규정한다. 법안은 인공지능이 콜센터 노동자의 업무를 ‘지원’하는 건 허용했지만, ‘대체’하는 건 금지했다. 인공지능이 통계모델링·데이터 분석 등을 거쳐 생성한 점수·분류 등으로 인간의 재량적 의사결정을 대체하지 말라는 내용도 담겼다. 도움은 받아도, 핵심 의사결정은 인간이 하라는 취지다.

법안을 발의한 모니카 리몬 캘리포니아 주 민주당 상원의원은 일자리 보호, 사람에게서 서비스 받을 권리, 피상담자들의 개인정보 유출 우려 등을 근거로 들었다. 그는 “인공지능으로 많은 작업을 자동화하고 효율성을 높일 수 있지만, 반복적이거나 일상적인 업무에 의존하는 일부 분야에서 일자리 상실을 초래할 수 있다. 이는 새로운 불평등을 야기할 수 있다”며 “공공 혜택 프로그램에 도움을 요청하는 이들은 가장 취약한 주민들이다. 이들이 ‘인간’의 도움을 받을 수 있도록 보장하는 게 핵심”이라고 설명했다. 그러면서 “(훈련에 사용된 데이터의 신뢰 문제로) 상담 결과가 편향될 우려가 있다. 범죄·의료·재정 정보 등 민감한 개인 정보를 수집·처리하는 업무 속성상 프라이버시 침해 우려도 크다”고 덧붙였다. 만약 주 정부 및 지방 정부가 콜센터 노동자의 핵심 업무에 영향을 끼치는 인공지능을 도입하려면 노동자 또는 노조에 60일 전에 통보하라는 규정도 신설됐다.

뉴섬 주지사가 이들 법안에 서명할지는 미지수다. 그는 주의회를 통과한 다양한 인공지능 규제 법안들 중 선거 관련 딥페이크를 규제하는 법안에는 서명하겠다는 입장을 시사했으나, 다른 법안에 대해선 입장을 밝히지 않고 있다. 캘리포니아에는 인공지능 산업을 주도하는 회사들이 많다. 이들은 주의회가 주도하는 인공지능 규제 법안(SB1047)등에 반대 목소리를 높이고 있다. 반면 일론 머스크 테슬라 최고경영자는 “이것은 어려운 결정이고 일부 사람들을 화나게 하겠지만, 나는 SB 1047 법안을 통과시켜야 한다고 생각한다. 공공에 잠재적인 위험이 되는 모든 제품과 기술을 규제하는 것과 마찬가지로 인공지능도 규제가 필요하다”라며 찬성 입장을 밝힌 바 있다.

김원철 기자 wonchul@hani.co.kr