인공지능이 지배하는 ‘인지자본주의’

[책과 길] 인공지능 시대 인간의 조건
백욱인 지음
휴머니스트, 496쪽, 3만3000원

현재 인공지능을 대표하는 장치라고 할 수 있는 거대 디지털 플랫폼에 의해 인간은 데이터로 분할되고 재구성된다. 1세대 디지털 사회연구자인 백욱인은 플랫폼을 통해 인공지능이라는 ‘거대 기계’가 인간과 사회를 주조하고 있다는 분석을 이끌어낸다. 게티이미지 제공

지난해 11월 챗GPT의 등장 이후 글과 이미지, 영상 등을 만들어주는 생성 인공지능 서비스가 속속 출현하면서 인공지능에 대한 논의가 폭발하고 있다. 논의는 “인터넷과 스마트폰에 비견되는 혁명적 기술 혁신”(빌 게이츠)이라며 인공지능이 열어줄 가능성을 설파하는 쪽과 인간의 제어를 벗어난 ‘초인공지능’의 현실화라는 종말론적 우려를 제기하는 쪽으로 양분돼 있다.

최근 국내외적으로 인공지능에 대한 비상한 관심을 촉발시킨 언어생성 인공지능 ‘챗GPT.’ 게티이미지 제공

정보기술의 사회적 영향을 연구해온 1세대 디지털 사회연구자 백욱인(전 서울과학기술대 교수)은 ‘인공지능 시대 인간의 조건’에서 인공지능의 미래를 둘러싼 낙관론이나 종말론 대신 인공지능의 현실을 드러내 보이는데 집중한다.

그에 따르면 현재 인공지능의 대표적인 장치는 구글, 페이스북, 트위터, 알라딘 같은 거대 디지털 플랫폼이다. 인공지능과 빅데이터를 결합한 이 플랫폼들은 개별 기계나 단독 행위자가 아니라 인간과 기계가 집합적으로 형성하는 ‘거대 기계’이자 서로 되먹임하는 ‘체계’에 가깝다.

“인공지능은 기계의 왕국을 꿈꾸지 않으며 인간과 따로 존재하는 개체도 아니다. 그것은 알고리즘을 만드는 기술자와 과학자, 사업가 및 자본, 정책 등으로 구성되는 복합적인 기계의 배치다.”

인공지능을 사이보그 같은 개체로 설정하면 인간이 어떻게 활용하느냐에 따라 선도 악도 될 수 있다는 결론에 도달한다. 하지만 인공지능을 거대 기계, 구체적으로 플랫폼으로 보면 인간과 기계가 맺고 있는 관계에 주목하게 된다.

기계와 인간의 관계에서 그동안은 인간이 기계를 활용한다는 측면이 주로 조명돼 왔다. 생성 인공지능의 등장은 기계가 인간을 지배할 수 있다는 우려를 키우고 있다. 하지만 인간이 기계에 예속되는 현실은 충분히 주목되지 않았다. 저자는 플랫폼이 인간을 길들이고 있는 모습을 드러내면서 인공지능의 문제를 기계의 인간 지배가 아니라 인간의 기계 예속이라고 정리한다.

우리의 일상이 거대 플랫폼에 포획되면서 인간의 활동은 데이터로 전환돼 빅데이터가 된다. 빅데이터는 인공지능에 의해 재구성되고, 인간과 사회에 다시 되먹임되면서 우리의 생각과 행동을 주조해 나간다. 원래 나뉠 수 없는 인간이 알고리즘을 통해 데이터로 분할되어 인공지능과 빅데이터의 원료로 사용되고, 플랫폼이라는 거대 기계에 의해 재구성된다는 것이야말로 인공지능 시대 인간의 달라진 조건이다. 인간과 기계의 배치 관계가 완전히 달라진 것이다.

“인간이 기계의 구성요소가 될 때, 상급단위인 플랫폼이 인간을 동물, 도구 혹은 기계 등 외부의 대상과 연결해 예속할 때 인간이 기계의 노예가 된다.”

플랫폼은 이용자들의 커뮤니케이션을 촉진하고 그들의 힘과 주체화를 강화하는 것처럼 작동한다. 하지만 저자는 “눈에 보이지 않는 곳에서는 이용자들의 활동 결과물을 수취하고 그들의 활동을 추적하며 통제한다”고 지적한다. 이용자는 서비스 플랫폼을 사용하는 과정에서 분할체로 변환된다. 소셜 미디어를 이용할 때 질적 자아는 양적 자아로 변경되어 플랫폼 안의 빅데이터가 된다.

“디지털 플랫폼을 통해 개체가 수치로 환원되는 과정이 분할체화라면, 분할체로 이뤄진 데이터세트가 개인에게 되먹여지면서 생각과 형태를 만드는 과정을 조각주체화라고 부를 수 있다.”

인공지능의 총아라고 할 플랫폼은 자본주의의 축적방식도 바꾸고 있다. 인간의 인지능력과 감정, 여가활동마저 이윤으로 흡수한다. 저자는 이를 ‘인지자본주의’로 설명한다. 인지자본주의의 핵심적 장치가 바로 플랫폼이다. 플랫폼은 인간의 생활과 소통, 여가활동이나 오락을 데이터로 바꿔 이윤으로 창출한다. 이용자의 활동시간을 자본의 이윤창출을 위한 원료창출시간으로 변환한다. 이용자들의 생활시간을 플랫폼 기업의 노동시간으로 전환하는 마술이 이뤄지는 것이다.

저자는 플랫폼을 통한 인지자본주의의 핵심에 ‘플랫폼 지대’가 있다고 지적한다. 거대 플랫폼 기업들이 이용자의 데이터를 전유하고 그들의 노동을 통제함으로써 막대한 지대를 거두고 있다는 것이다.

인공지능은 플랫폼을 통해 인간과 기계의 일체화를 이뤄나가는 중이다. 또 인간과 기계의 관계를 바꾸고 사회를 인지자본주의로 재편하고 있다. 책은 인공지능 논의의 핵심에 플랫폼 문제를 놓고 인간과 기계의 관계에 주목해야 함을 알려준다.

“인간의 인지활동을 수취하고 인공지능을 통해 가공하는 현 단계 자본주의의 성격은 기계와 인간의 관계가 어떻게 배치되는가에 달려 있다.”

김남중 선임기자 njkim@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지