아마존 물류창고 감시하는 AI 카메라, 누구에게 이익일까

20년간 기술 연구한 두 MIT 교수

권력과 진보

대런 아세모글루·사이먼 존슨 지음 | 김승진 옮김 | 생각의힘 | 736쪽 | 3만2000원

미국 최대 전자상거래업체 아마존에서는 인공지능(AI) 카메라가 물류 창고에서 일하는 이들을 촬영한다. 촬영된 영상을 검토해, 작업에서 생기는 오류를 줄이겠다는 취지다. 그러나 근로자들의 반발은 계속되고 있으며, 2020년 아마존 물류 센터의 중상 사고는 다른 미국 물류 센터 전체의 평균보다 두 배가 높았다. MIT 교수면서 책 ‘국가는 왜 실패하는가’로 유명한 저자 대런 아세모글루와 그의 대학 동료 교수 사이먼 존슨은 작업 환경에 AI가 도입되는 것을 현대판 파놉티콘(원형 감옥)에 비유한다. 발전된 AI 기술로 오히려 생산성이 떨어진다는 것이다.

‘AI 환상으로 생기는 비용’이 이뿐만일까. 공론장 역할을 하리라 기대를 받은 소셜미디어는 알고리즘을 핑계 삼아 어떤 책임도 지지 않은 채, 가짜 정보의 유통 경로로 기능한 지 오래다. 중국 정부는 매년 온라인 콘텐츠 검열과 감시에만 66억달러를 사용하며, 안면 인식 등 데이터 수집을 위해 정부 차원에서 AI에 막대한 투자를 하고 있다. 저자들은 AI에 대한 환상으로 생기는 이런 최근의 현상들이 기술 진보로 생긴 당연한 결과가 아니라고 말한다. 누군가 ‘선택’한 결과이기 때문에, 다른 선택의 가능성이 있다는 것이다.

기술 진보는 번영을 약속하는가. 산업혁명 이후 수세기 동안 계속돼 온 이 질문에 저자들은 “인류가 성취한 기념비적인 기술 진보에 속지 말아야 한다”고 답한다. 새로운 문제의식은 아니지만, AI 기술의 악영향이나 기술 발전이 민주주의의 악화를 불러온 최신 사례 등을 오랜 논의의 연장선에 위치시켰다는 점이 눈에 띈다. 약 20년 동안의 연구를 바탕으로 책을 썼다고 한다.

저자들은 ‘기술 진보’와 ‘번영’이란 단어 사이에 가려진 ‘선택’에 주목하자고 말한다. 기술이 현실에서 사용되는 양상은 하나로 고정돼 있지 않으며, 경제적·사회적·정치적으로 선택된 결과라는 것이다. ‘기술 진보가 번영을 약속하지 않는다’는 다소 도발적 주장의 근거는 과거와 현재다. 저자들은 지난 1000여 년 역사를 되짚으며, 농업·산업혁명을 비롯해 ‘진보’의 이름을 내걸었으나 더 많은 이의 번영을 가져오지 않은 사례를 제시한다. 가령 산업혁명 이후 ‘1800년대 중반 저숙련 노동자의 소비 지출 여력은 100년 전과 크게 다르지 않았다’거나 ‘식민 지배를 받은 인도에서는 영국의 작물이 밀려 들어오며 탈산업화의 길로 내몰렸다’고 말한다. 물론 기술 진보는 소수에게 번영을 가져다주긴 했다. 컴퓨터의 발달로 소수의 사업가와 기업인들이 부유해졌으나, 대학을 졸업 못 한 대부분의 미국인은 실질소득이 감소했다. 저자는 이 소수의 사람들이 기술의 주된 비전을 정하는 ‘설득의 권력’을 지녔다고 표현하며, “공유된 비전은 우리를 덫에 빠뜨릴 수도 있다”고 경고한다.

‘기술 진보’와 ‘번영’이란 도식에서 경제사를 바라본 것이기에 책에서 제시하는 모든 사례에 동의하기는 어려울 수 있다. 그럼에도 문제의식은 분명히 울림을 준다. 기술 진보는 결코 자동적인 과정이 아니며, 누군가에 의해 선택된다는 것. 그 선택이 소수의 권력자들만을 위한 것이 되지 않도록 통념에 맞서는 비전과 사회적 조직을 만들어야 한다는 것이다. ‘기술 진보’라는 이름으로 사회가 병드는 것은 먼 과거의 일만은 아니다. 저자는 책의 후반부에서 AI와 현대 디지털 기술의 병폐를 강하게 비판한다. 자동화, 감시를 위한 기술이 오늘날 민주주의를 훼손하고 있다는 것이다.

저자들은 “디지털 테크놀로지는 친민주주의적이지도 반민주주의적이지도 않다”고 강조한다. 생산 자동화로 일자리를 줄이기 시작한 것은 몇몇 기업의 비즈니스 모델이었고, 중국에서 AI 등 기술이 시민 검열에 사용되는 것은 정부가 내린 선택이었다. 다시 말해, 앞으로 기술이 가져올 미래는 ‘선택’을 어떻게 바꾸는지에 달려있다는 것. 저자들은 ‘테크놀로지의 방향’을 다시 선택하기 위한 방안으로 정책을 바꾸려는 정부의 리더십, 거대 테크 기업의 분할 등을 제시한다. 핵심은 ‘사람’을 중심에 두자는 것. 자동화, 감시, 데이터 수집과 같은 방향으로 기술의 능력만 중시하는 지금에서 벗어나, “사람을 위해 쓰이는지 사람에게 적대적으로 쓰이는지”를 봐야 한다고 말한다. 다소 낙관적인 해결책. 그러나 “어느 시대보다 테크놀로지에 대해 더 엘리트주의적이고 더 맹목적으로 낙관하는 시대를 살아가고 있는 듯하다”는 저자들의 말처럼, 기술에 대한 우리의 인식이 더 낙관적이진 않을까.