[책&생각] ‘AI 파시즘’에 맞설 정치적 상상력

최근 스위스 제네바에서 열린 국제전기통신연합(ITU) ‘좋은 인공지능’(AI for Good) 글로벌 정상회의에서 인공지능으로 움직이는 휴머노이드 소셜 로봇이 기자회견 단상에 서 있는 모습. 연합뉴스

인공지능은 왜 정치적일 수밖에 없는가
AI의 정치학과 자유, 평등, 정의, 민주주의, 권력, 동물과 환경
마크 코켈버그 지음, 배현석 옮김 l 생각이음 l 1만8800원

인공지능(AI)은 이미 현대인의 삶 깊숙이 들어와 있다. 지능형 가전제품, 생체인식 시스템, 돌봄 로봇, 맞춤형 알고리즘은 공기처럼 자연스럽다. 지금은 생성형 인공지능 챗지피티(ChatGPT) 열풍이 거세다. 인공지능이 독자적 학습능력을 넘어 인간처럼 자유의지와 감정을 지닐 수 있는지, 인간과 사회에 어떤 영향을 미칠지, 인공지능과 인간과의 관계는 어떠해야 할지, 나아가 인공지능도 인간과 비슷한 권리를 가질 수 있는지까지 일찍이 상상해보지 못한 문제들이 쏟아진다.

벨기에 출신 기술철학자 마크 코켈버그는 ‘인공지능은 왜 정치적일 수밖에 없는가’에서 인간과 인공지능이 불가분의 관계를 맺는 새로운 생태계가 자유, 정의, 평등, 인종차별, 민주주의, 기후변화 등 현대 세계의 주요한 정치적 쟁점과 어떻게 연결되는지를 톺아보고 그 위험성과 가능성을 진단한다.

인공지능은 단순한 기술을 넘어 인간 심리를 조종하는 권력이 될 수 있다. 소비 패턴 분석에 기반한 넛지 마케팅은 선택을 강요하지 않는 소극적 개입만으로도 상품 구매뿐 아니라 유권자의 투표 행위에 영향을 준다. 안면인식 시스템이 엉뚱한 사람을 범죄자로 지목하는 오류에는 인종주의적 편향이 작동한다. 인공지능을 탑재한 휴머노이드는 인간과 로봇의 경계 자체를 위협한다. 인공지능이 인간의 자유와 시민적 권리를 위협하는 ‘디지털 빅 브러더’로 군림할 개연성은 매우 높다.

인공지능은 기존 시스템의 구조적 불의와 불평등을 악화시킬 수 있고, 정치와 권력의 측면에서 중립적이지도 않다. “인공지능은 하나부터 열까지 정치적”이다. 책의 원제가 ‘인공지능의 정치철학’(The Political Philosophy of AI)이다. 지은이는 플라톤부터 루소, 마르크스, 미셸 푸코, 한나 아렌트, 존 듀이, 피터 싱어, 주보프까지 장구한 정치철학과 민주주의 개념을 재점검하고 동물과 자연(비인간)의 지위까지 짚어가며, 인공지능 시대에 걸맞은 정치적 상상력을 펼친다.

결국은 인공지능을 누가 통제하느냐, 인간과 인공지능이 어떻게 공존하느냐가 관건이다. “인공지능이 조금이라도 권력을 가지고 있다면, 그것은 인간을 통한 권력”이기 때문이다. 인공지능에 대한 특정집단의 독점적 통제, 투명성과 책임이 결여된 거버넌스는 ‘데이터 파시즘’과 ‘기계 전체주의’로 이어질 수밖에 없다. 푸코가 갈파한 ‘지식권력에 기반한 감시와 규율’의 새로운 버전이자 디지털 디스토피아의 음울한 실현일 테다.

조일준 선임기자 iljun@hani.co.kr