“넌 누굴 위해 일하니?” “누구든 힘센 사람이 제 주인이죠” [Books]

막대한 자본·자원 투입된 AI
‘인공’ ‘지능’과는 거리 멀고
물질 집약형 산업에 가까워
자율·합리성은 도리어 배제
기득권 유리하게 설계되며
권력의 하수인 노릇하기도

아마존 물류센터. 본 기사와 관련 없는 사진임. [로이터 = 연합뉴스]

인공지능(AI)의 실체가 알고 싶다면 실리콘밸리에 있는 우주선 형상 애플 사옥이나 구글캠퍼스를 벗어나야 한다. 동쪽으로 차를 돌려 산맥과 황막한 사막을 건너 네바다주로 향해야 한다. 클레이턴밸리에는 실버 피크 리튬 광산이 있다. 주민 수 125명에 불과한 이 탄광촌은 100년 동안 금과 은이 모조리 채굴된 뒤 버려진 곳. 골드러시 시대 폐가만 남은 이곳에는 거대한 리튬 지하 호수가 숨어있다.

리튬 염수가 가득한 이 초록색 연못에선 외계인처럼 생긴 검은색 파이프가 땅속에서 ‘회색 금’으로 불리는 리튬을 채취한다. 미국의 유일한 리튬 광산인 이곳은 빅테크 거물들에게 초미의 관심사다. 스마트폰 배터리에는 8ｇ, 테슬라 모델S의 배터리에는 63ｇ의 리튬이 들어간다. 이곳에서 320㎞ 떨어진 테슬라 기가팩토리가 있다. 테슬라는 연간 2만8000t 이상의 수산화리튬을 소비한다. 이는 전 세계 소비량의 절반에 해당한다. AI 자율주행으로 환경 문제를 해결하겠다는 야심을 드러내는 전기차 업체들은 사실은 채굴과 추출 등을 통해 환경에 심각한 악영향을 끼친다.

여기에 기술기업들의 연산과 상거래는 배터리에 의존한다. AI에서 알고리즘과 데이터를 떠올린다면 실체를 모르는 일이다. 광물과 자원이 없이는 아무것도 할 수 없다. 리튬 추출을 위해 볼리비아, 콩고, 몽골, 인도네시아, 호주 사막 등이 정치적 긴장을 겪고 있다. 전자기기에 필요한 희토류를 채굴하는 데는 무자비한 지정학적 폭력이 수반된다. 광업 지역에서는 전쟁, 기근이 흔하다. 호수가 말라버리면 실버 피크 또한 죽음의 마을로 돌아갈 것이다.

자원전쟁이 세계적 긴장을 고조시키는 배경에는 이처럼 AI가 있다. 이 책은 AI를 ‘추출 산업’으로 규정하며 AI는 세계의 부와 권력을 실시간으로 재편하고 있음을 고발한다. 채굴이 AI를 만든다는 말은 문자 그대로다. 데이터 마이닝이라는 새 추출 방식은 전통적 채굴의 개념을 더 확장시켰다.

저자 케이트 크로퍼드는 마이크로소프트 연구소 선임 수석 연구원으로 뉴욕대 AI 나우 연구소를 공동 설립한 인물. 그는 광산의 갱도, 에너지를 집어삼키는 데이터 센터의 긴 통로, 두개골 보관소, 이미지 데이터베이스, 물류 창고 등을 여행하며 AI라는 거대한 산업의 실체를 알려준다.

심지어 희토류, 석유, 석탄에 대한 기술기업의 수요는 엄청나지만 이 채굴의 진짜 비용을 AI 기업이 지는 경우는 거의 없다. 평균 수명이 4.7년에 불과한 스마트폰은 연간 수억대가 버려지고 대부분 가나, 파키스탄의 전자 폐기물 하치장에 매립된다.

디지털 날품팔이꾼도 필요하다. 푼돈을 받고 온종일 이미지와 데이터를 분류하는 노동자의 수는 급증하고 있다. 아마존 창고에도 알고리즘의 명령에 복종하는 막대한 노동자가 고용된다. 뉴저지주 로빈스빌 아마존 물류 센터에는 시간기록계가 있다. 인간의 노동은 초 단위로 감시된다. 휴식 시간은 교대당 15분, 식사 시간은 30분으로 주어지고 교대당 근무 시간은 10시간이다. 23㎞의 컨베이어벨트 굉음 속에서 로봇과 작업자들은 한 치의 오차 없이 노동에 임한다.

데이터기업들의 AI 모형 구축을 위해서는 사람들의 말과 사진, 뉴스 등 거대한 데이터가 알고리즘 개선을 위해 쓰인다. 사람들의 사생활이 아닌 단순한 인프라로 간주되며, 개인정보유출과 감시 자본주의는 묵인된다. 많은 사각지대에서 인간은 AI를 위해 복무하고 있다. 심지어 AI는 만들어지는 과정에서 저항할 힘이 가장 약한 사람들에게서 정보와 자원을 더 많이 추출한다.

더 나아가 이 책은 AI가 국가 권력의 도구로 이용되는 현상을 고발한다. 현재 AI는 감시와 군사적 목적을 위해 광범위하게 사용되고 있으며, 상업 분야는 넘어 교실, 경찰서, 기업에서도 널리 쓰이고 있다. 피터 틸의 팔란티르는 기계학습을 통해 얻은 데이터 분석을 전장에서 활용한 데 이어, 지금은 연방수사국의 범죄조사와 국토안보부의 이민자 감시에도 활용된다.

인공지능은 어떻게 만들어지는지 치밀하게 추적하는 이 책은 AI가 ‘인공’적이지도 않고 ‘지능’도 아니라고 주장한다. 오히려 인공지능은 체화되고 물질적인 지능이며 천연자원, 연료, 인간 노동, 하부 구조, 물류, 역사, 분류를 통해 만들어진다고 주장한다.

능력에 대한 의구심도 있다. 기계학습이 보편화된 지금의 AI는 자율적이지도 합리적이지도 않으며 대규모 데이터 집합이나 기존의 규칙 및 보상을 동원한 방대하고 집약적인 훈련 없이는 아무것도 분간하지 못한다. 심지어 AI는 정치·사회적 구조에 전적으로 의존한다. 자본과 노동력이 필요한 탓에 AI는 궁극적으로 기득권에 유리하게 설계될 수밖에 없다. “AI는 권력의 등기부”라는게 저자의 주장이다.

이 책은 AI야말로 이 세계를 ‘단 하나의’ 지도책을 만들려는 욕망이라고 설명한다. 특히 더 넓은 지도를 향해 나아갔던 21세기의 식민주의적 충동은 권력을 AI 분야에 집중시키고 있다. 물리학자 어설라 프랭클린의 말처럼 “지도에는 목적이 있으며, 지도는 집단적 지식과 통찰의 증거”이기 때문이다. 전 지구적 경쟁이 이뤄지고 있는 AI산업의 서늘한 그늘을 비추며 저자는 질문한다. AI는 누구에게 복무하는가.

AI 지도책 케이트 크로퍼드 지음, 노승영 번역, 소소의책 펴냄