기술 낙관의 그늘, AI 제국은 어떻게 권력을 확장하나

스케일 경쟁이 만든 자본 집중과 글로벌 노동 착취 구조
AGI 이상과 기업 가치 사이, 오픈AI의 변모를 추적한 르포
AI 제국: 권력, 자본, 노동(카렌 하오 지음,임보영 옮김/생각의힘/672쪽/2만8800원)

생성형 인공지능이 일상이 된 시대다. 보고서를 요약하고, 이미지를 만들고, 상담을 대신하는 도구로 빠르게 확산됐다.

그러나 그 이면의 권력 구조와 노동 현실을 묻는 목소리는 상대적으로 작다. 'AI 제국: 권력, 자본, 노동'은 이 기술이 어떤 구조 위에서 작동하는지에 주목한다. 오픈AI를 중심으로 형성된 생성형 AI 산업의 작동 방식을 추적하며, 기술 패권 경쟁의 구조적 문제를 파헤친다.

저자 카렌 하오는 오픈AI를 오랜 기간 밀착 취재한 기자다. 그는 범용 인공지능(AGI)이 인류 전체의 이익에 기여하도록 하겠다는 비영리적 사명을 내걸고 출발한 조직이, 어떻게 거대 자본과 결합해 산업 질서를 재편하는 중심축으로 이동했는지를 추적한다. 챗GPT의 성공은 단순한 서비스 흥행을 넘어 기술 개발의 방향 자체를 바꿨다. 데이터, 연산 자원, 매개변수 수를 기하급수적으로 늘리는 '스케일링'이 성능 향상의 핵심 전략으로 자리 잡으면서 막대한 자본을 동원할 수 있는 소수 기업만이 경쟁에 참여할 수 있는 구조가 형성됐다.

책은 이를 '제국'이라는 개념으로 설명한다. 생성형 AI 기업들은 자신들의 비전에 맞는 모델을 구축하기 위해 전 세계의 데이터를 수집하고, 대규모 데이터센터를 가동하기 위한 토지와 전력, 수자원을 확보한다. 이 과정에서 발생하는 사회적·환경적 비용은 기업 가치 상승이라는 성과 뒤로 밀려난다. 기술 발전이 곧 공공의 이익으로 이어진다는 서사는 반복되지만, 실제 비용 부담은 다른 곳에 전가된다는 지적이다.

특히 주목되는 부분은 데이터 노동의 실태다. 거대 언어모델을 학습시키기 위해서는 방대한 데이터에 주석을 달고, 모델이 유해한 답변을 내놓지 않도록 사전에 설계하는 작업이 필요하다. 이 노동은 케냐, 베네수엘라 등 글로벌 사우스의 저임금 노동자들에게 맡겨지는 경우가 많다. 단순 분류를 넘어 폭력·혐오·성적 표현을 검토하고 경계를 설정해야 하는 일은 정신적 부담이 크지만, 노동 조건과 보상은 이에 상응하지 못한다는 사례가 제시된다.

저자는 생성형 AI 확산이 중산층 일자리에도 영향을 미칠 수 있다고 본다. 예술가와 작가의 창작물이 동의 없이 학습 데이터로 활용되고, 그 결과물로 제작된 모델이 다시 이들을 대체하는 구조가 형성될 수 있다는 것이다. 기술 기업은 이를 불가피한 진보로 설명하지만, 책은 이러한 논리가 역사적으로 어떻게 착취를 정당화해 왔는지를 환기한다. 생산성 향상이 곧 인간의 삶을 개선한다는 단순한 등식에 의문을 제기한다.

동시에 거대 모델 중심의 경쟁만이 유일한 발전 경로는 아니라고 주장한다. 더 작은 규모의 모델과 다양한 기술을 통해 의료, 교육, 환경 문제 해결에 기여할 수 있으며, 이를 위해서는 데이터 프라이버시 강화, 지적재산권 보호, 국제적 노동 기준 확립 등 제도적 장치가 필요하다고 제안한다. 기술의 방향은 이미 정해진 운명이 아니라 사회적 선택의 결과라는 메시지다.

생성형 AI는 행정과 산업, 교육 현장까지 빠르게 스며들고 있다. 그 편의성과 효율성만큼이나, 기술을 둘러싼 권력 구조와 비용 분배 문제 역시 공론의 장에서 다뤄져야 한다는 것이 이 책의 핵심 주장이다. 혁신의 속도에 매몰되지 않고, 누가 이익을 얻고 누가 비용을 부담하는지 묻는 질문이야말로 지금 필요한 논의라는 점을 일깨운다.