알파고와 이세돌 ‘신의 한수’ 대결이…미래전쟁의 첫 총성이었다 [Book]

신간 ‘AI 제국: 권력, 자본, 노동’

[제미나이]

수년간 전 세계에서 다뤄진 범용 인공지능(AGI) 담론의 기저에는 공포의 서사가 도사리고 있다. 모든 분야에서 인간과 유사하게 생각하고 문제를 해결하는 인공지능(AI)이라는 모호한 정의 아래, AGI가 인류 멸망을 가져올 수 있으니 통제되어야 한다는 주장이다. 이 같은 공포의 서사는 오픈AI를 비롯해 AGI 개발에 열을 올리는 빅테크 기업들이 항상 ‘인류를 위한 AGI’를 강조하며 AI가 가져올 장밋빛 미래를 약속하는 이유이기도 하다. 이 대목에서 드는 의문이 있다. 누가 기술 발전을 주도하고 통제하는가. 그리고 누가 지금, 기술 발전에 따른 비용을 치르고 있는가.

미국 월스트리트저널(WSJ)에서 AI 담당 기자로 활동한 카렌 하오가 쓴 ‘AI 제국: 권력, 자본, 노동’은 현재 AI 스케일링 경쟁(AI 모델, 데이터, 연산량 확대 경쟁)을 촉발한 오픈AI를 통해 빅테크에 집중된 기술 권력이 초래할 위험성을 경고한다. 또 빅테크들이 AGI라는 비전을 위해 개발도상국의 자원과 노동력을 수탈하고, 데이터 연산 인프라에 활용되는 전기 때문에 기후위기가 심화하는 현상을 폭로한다.

저자에 따르면 2015년 일론 머스크와 샘 올트먼이 공동의장을 맡아 비영리기관으로 출범한 오픈AI는 AGI가 촉발한 공포의 반작용이었다. 인간을 넘어서는 AGI가 세상에 나오면 인류가 위태로워질 수 있으니, 오픈AI가 먼저 기술 주도권을 잡고 영리화에 매몰되기보다 ‘인류 전체를 위한 AI’를 이끌어야 한다는 것이 출범 취지였다.

하지만 구글 딥마인드가 개발한 ‘알파고’가 이세돌 9단을 꺾자 조급해진 오픈AI는 속도 경쟁에 매몰된다. 그들이 딥러닝 모델 성능을 획기적으로 개선시킬 방법으로 찾아낸 것은 스케일링이었다. 문제는 천문학적인 자금이 필요하다는 것이었다. 샘 올트먼은 오픈AI의 영리 자회사를 세우는 방법으로 자금 유치를 추진한다. 테슬라 산하 편입을 주장했던 머스크는 오픈AI를 떠난다.

이후 오픈AI는 비영리 연구와 투명성, 공익성을 강조했던 출범 취지와 정반대로 내달렸다. 마이크로소프트(MS)와 파트너십을 맺고 투자를 받으면서 성과를 내야 한다는 조급함에 시달렸다. 신제품 출시를 앞두고 새 모델의 위험성과 공익성을 충분히 평가해야 한다는 오픈AI 안전 부문의 목소리는 묻혔다.

생성형AI 챗GPT의 한 단계 전 모델인 GPT-3는 오픈AI가 출범 초기의 사명을 버렸음을 증명하는 하나의 분기점이었다. 부족한 데이터를 만회하기 위해 오픈AI는 법률적 위험도 무릅쓰고 인터넷에서 찾을 수 있는 어떤 정보든 무차별적으로 수집했다. 처음부터 필요한 양질의 데이터를 가려내기보다, 확보한 모든 데이터로 도출된 결과값을 통제하는 ‘콘텐츠 모더레이션’ 모델을 고도화했다. GPT-3의 다음 모델(GPT-3.5) 기반으로 선보인 챗GPT의 엄청난 성공 이후 오픈AI는 업계의 표준이 된다. 스케일링 경쟁이 촉발된 배경이다. “새로운 AI 개발 규칙이 만들어졌다. 이제 모든 빅테크 기업들이 서로를 능가하기 위해 규모의 경쟁에 뛰어들었다.” 개발에 천문학적 자금을 댈 수 없는 지구상 대부분의 기업들은 출발선에 서지도 못했다.

빅테크와 같은 소수의 기술 권력이 구축한 AI 생태계는 ‘제국주의’를 연상케 한다. 예술가와 작가들의 작품은 물론 수많은 이들이 경험하고 관찰하고 공유한 데이터가 무차별 수집된다. 또 아동 성폭력, 여성 혐오 등이 담긴 유해 텍스트 데이터를 걸러내는 ‘콘텐츠 모더레이션’의 작업은 케냐, 베네수엘라와 같은 글로벌 사우스 국가들의 저임금 노동자에게 돌아간다.

막대한 스케일링을 뒷받침할 데이터센터와 용수 확보처는 수자원 부족과 경제난을 겪는 칠레, 우루과이와 같은 나라다. 이들 국가의 정부는 투자를 통해 AI란 ‘신문물’을 이식하고 고용을 창출해줄 테크 기업들을 반긴다. 경제 발전과 계몽이라는 ‘선한 명목’하에 식민지 개발을 정당화했던 열강들로 지구가 뒤덮였던 20세기 제국주의와 유사하다. 다르다면 필요 자원을 확보하는 방식이 ‘계약’이라는 세련된 형식으로 이행되며, AI 제국을 구성하는 기술 기업들은 매우 소수라는 점이다. “오픈AI와 소수의 경쟁자들은 미래를 바꿀 열쇠라고 광고하는 이 기술을 독점할 가능성이 크다. 기업이나 정부라 하더라도 그 기술을 장악한 제국에 의존해야 할 것이다.”

오픈AI와 소수의 빅테크 기업에 기술 권력이 집중된 현실을 타개할 방안은 없을까. 저자는 두 가지를 제시한다. 장밋빛 미래를 약속하는 AI가 막대한 자원을 잡아먹는 현재 기술 패러다임대로 개발될 필요는 없다고 짚는다. 또 소수의 기업이 주도하는 현재 AI 개발 구도에 대한 감시를 강화해야 한다고 제안한다. ‘우리 모두가 이 기술의 미래를 통제할 힘을 되찾아야 한다. 그리고 지금이야말로 그게 아직 가능한 결정적인 시기다. 식민주의 시대의 제국들도 결국 더 열린 형태의 통치 제제에 무너졌듯이, 우리도 AI의 미래를 함께 바꿀 수 있다.’

카렌 하오 지음, 임보영 옮김, 생각의힘 펴냄