인공지능을 정치와 떼어내어 생각할 수 있을까 ... AI는 이미 정치적이다

신간 '인공지능은 왜 정치적일 수밖에 없는가'

게티이미지뱅크

#1. 2016년 도널드 트럼프의 미 대선 캠페인에서 인공지능(AI)은 시민을 조종하는 데 이용됐다. 데이터 분석기업 '케임브리지 애널리티카'가 사회관계망서비스(SNS)상 개인의 행동과 소비 패턴, 관계 등에 대한 데이터를 이용자 동의 없이 수집했고, 이 회사는 공화당 정치인들의 선거 홍보 전략을 도왔다.

#2. 이달 초, 미국 뉴욕주 뉴욕시는 채용과정에서 AI 사용을 규제하는 법안을 최초로 시행하기로 했다. 'NYC 114'로 알려진 법안인데, 채용과 승진 절차에서 특정 소프트웨어를 사용하는 기업들이 그 도구의 인종·성차별 가능성을 감사하여 그 결과를 공개하도록 하는 내용이다. 온라인 구직 과정에서 AI를 활용한 소프트웨어가 상용화됐지만 AI 인종혐오와 성차별을 답습할 수 있다는 가능성은 항상 제기되어 왔다.

기술은 '가치중립적'이므로 AI가 도래한 세상은 그저 낙관적이기만 할까. AI로 유발되는 정치적 문제는 기술을 개발하고 사용하는 인간의 탓일 뿐일까. 책을 덮자마자 AI와 인간의 정치적 행위에 대한 온갖 물음이 꼬리에 꼬리를 문다.

오스트리아 빈대학에서 '미디어와 기술철학'을 가르치는 저자 마크 코켈버그는 신간 '인공지능은 왜 정치적일 수밖에 없는가'에서 자유, 노예 상태, 인종차별, 식민주의, 민주주의, 전문성, 권력, 기후변화 등 온갖 정치적 주제를 정교한 정치철학이라는 틀로 설명한다. AI와 로봇 기술이 의도했든 의도하지 않았든 인류에 정치적으로 영향을 미치는 방식을 드러낸다.

제목부터 '인공지능은 왜 정치적일 수밖에 없는가'이다. 이미 책은 AI는 정치적이라 전제한다. AI는 구조적인 불평등을 악화시키거나 부당한 차별을 초래하고, 인간의 자율성을 기만하며 권한을 강화하거나 약화시키는 등 이미 도구적 역할을 넘어섰다는 게 저자의 진단이다.

민주주의의 중요 요소인 '자유'를 보자. SNS를 이용하며 자발적으로 일상 사진과 텍스트 등을 올리면서 자유로움을 느낄 수도 있겠지만, 기실 이는 스스로 거대 정보기술 기업의 데이터 수집 대상이 되는 것과 다름없다. 저자는 마르크스와 현대 비판이론, 아리스토텔레스의 철학 등을 끌어와 AI가 개인의 자유를 어떻게 박탈하는지 문제 삼는다. 데이터 과학과 디지털화가 불러일으키는 편향과 차별에 대해서는 마르크스주의, 자본주의, 정체성 정치이론, 반인종차별주의, 반식민주의 사상 등과 연관 지어 설명한다. 권력이 사회 곳곳에 퍼져 있다는 미셸 푸코의 권력 개념을 소개하고, 현존하는 세 가지 권력이론을 통해 AI가 유도하는 조작을 살펴본다. '전체주의의 기원(1951)'을 쓴 해나 아렌트의 표현을 빌려 AI 기술이 전체주의의 근원 가운데 하나가 될 위험이 있다고 경고한다. 더 나아가 "인간만이 정치적으로 중요한 것은 아니"라며 비인간인 동물과 환경에 미치는 AI와 로봇 윤리와 함께 사고한다.

"이 책은 정치와 인공지능, 더 넓게는 정치와 기술에 관한 보다 광범위한 프로젝트를 소개하는 비판적 입문서를 원하는 독자 여러분의 바람과 달리, 그저 시작이고 첫 단계로, 즉 서설일 뿐이다."

복잡다단하고 촘촘하게 논의를 전개하던 저자는 마지막 챕터에 이르러 이같이 말한다. 저자의 논증을 숨 가쁘게 따라가던 독자로서는 명쾌한 답이 나오지 않는 결말에 허무함을 느낄지도 모르겠다. 하나 책은 독자에게 AI와 로봇에 관한 규범적 문제와 정치적 쟁점을 부지런히 오가며 질문을 던진다. 뾰족한 답은 나오지 않지만, 그래서 이 책이 던지는 물음을 꼭꼭 씹어 사유하게 만든다. 그리고 그것이 바로 저자의 의도기도 하다. 'AI의 정치철학'이라는 화두를 세상에 던지는 것.

"정치와 기술을 함께 사고하는 이것이야말로 목숨이 달린 위험을 감수하고라도, 내가 사는 지역사회와 전 세계에 일어나고 있는 일에 대응하고 행동에 옮기라는 요청이기도 하다. (...) 만약 이 길을 택하지 않는다면, 우리는 인공지능 같은 기술이 이미 인간에게, 그리고 정치에 대해 하고 있는 일로부터 비판적, 성찰적 거리를 충분히 확보하지 못할 것이다. 또 우리는 인공지능 및 인공 권력의 무력한 피해자가 될 것이다."

인공지능은 왜 정치적일 수밖에 없는가·마크 코켈버그 지음·생각이음 발행·320쪽·1만8,800원

이혜미 기자 herstory@hankookilbo.com