[책꽂이] AI는 인공지능 아닌 데이터추출 결과물

■AI 지도책(케이트 크로퍼드 지음. 소소의책 펴냄)

[서울경제]

“인공지능(AI)은 결코 인공적이지도 않고 지능도 아니다. 기존 인식은 기계에 대한 맹목적 신뢰가 빚어낸 환상에 불과하다.” 신간 ‘AI 지도책(원제 Atlas of AI)’에서 미국 뉴욕대 AI 나우연구소 공동설립자인 저자가 인공지능의 사회적 의미를 오랫동안 추적해온 이후 내놓은 결론이다. ‘인공지능은 인간 정신과 비슷한 시스템을 만든 것이고 또 자연적이고 독자적으로 존재하는 무엇‘이라는 인식은 단순하고 편협하다는 것이다.

논리의 전개를 위해 저자는 먼저 AI가 실제로 어떻게 만들어지는 지를 추적한다. 미국 각지의 데이터센터는 물론, 네바다의 리튬 광산, 아마존 창고, 시카고 도축장, 서부 텍사스의 로켓기지와 해외 파푸아뉴기니의 산악마을 등에서 AI의 ‘추출’과정을 살핀다. 그리고 AI 시스템을 만들려면 값싼 노동력과 함께 지구의 에너지와 광물 자원, 대규모 데이터가 필요하다는 사실을 확인한다.

단순 반복 작업을 위해 클릭을 하면서 푼돈을 받는 디지털 삯꾼과 거대 물류 제국의 알고리즘에 장단을 맞추는 아마존 창고의 직원 같은 착취적인 노동이 AI를 생산하고 있다. 저자는 “AI는 여러 요소를 추출해서 만들어낸 하나의 결과물이지 ‘지능’은 아니다”는 주장한다.

또한 대규모 자본과 시스템이 필요한 탓에 AI는 궁극적으로 국가권력 등 기득권에 유리하게 설계될 수밖에 없다고 말한다. AI가 데이터를 이용하는 현재의 관행은 개인정보 유출과 감시 자본주의라는 심각한 문제 외에도 적잖은 윤리적·방법론적·인식론적 우려를 낳는다.

저자의 ‘지도책’ 비유는 AI를 이해하는 새로운 방법이다. 지형학적 접근법은 기계 학습 모형의 추상적 논의를 넘어선 새로운 관점과 규모를 제시한다는 설명이다.

사실 AI라는 용어는 마케팅에서 더 많이 쓰인다. 연구자들이나 마케터들이 주목을 끌고 싶을 때 AI라는 용어를 곧잘 동원한다. 때문에 ‘AI’ 용어가 채택되기도 하고 거부되기도 하면서 의미도 끊임없이 달라진다.

결국 인공지능이 어떻게 권력구조의 기반 역할을 하며 하부구조, 자본, 노동을 결합하는지 제대로 알고 그 대안을 마련하는 것은 우리의 현재, 미래와 직결돼 있다는 것이 저자의 주장이다. 기술만능식 접근법을 거부하고 불평등과 불의에 맞서는 국가적·국제적 운동을 확장해야 할 필요성을 제기한다. 2만1000원.

최수문기자 기자 chsm@sedaily.com