[북스&] 아무도 가르친 적 없지만···AI는 이미 '차별'을 배웠다

■인공지능은 왜 정치적일 수밖에 없는가
마크 코켈버그 지음, 생각이음 펴냄
AI, 흑인에 '재범위험 높다' 판단
특정 인종·젠더에 편향성 학습
기술·지능 차원의 논의 벗어나
평등 관점서 인공지능 평가해야

[서울경제]

인공지능(AI)에 대한 논의는 통섭적인 화두다. 오픈 AI가 개발한 ‘챗 GPT’를 필두로 생성형 AI 문제는 사회 각계에 거대한 영향을 미치고 있다. 인간보다 빠른 속도로 다량의 일을 처리해 획기적으로 작업 속도를 높였다는 이유로 긍정적으로 평가하는 이들도 많다. 그러나 인공지능을 제어하기 위한 장치가 시급하다는 의견도 만만치 않다. 대표적으로 생성형 AI의 저작권을 두고서는 창작자의 권리를 침해하는 것이 아니냐는 목소리가 높아지고 있다.

정치학도 빠질 수는 없다. 널리 알려진 이스턴의 정의에 따르면 정치는 “사회적 가치를 권위적으로 배분하는 행위”를 뜻한다. 누가 어떤 가치를 언제 어떻게 배분하느냐는 문제를 다루는 학문이기 때문에 사회의 모든 현상은 정치적이다. 최근 유네스코 세계과학기술윤리위원회에 임명된 세계적인 기술철학자 마크 코켈버그가 저술한 이 책은 인공지능이야말로 정치적으로 무결할 수 없다는 의견을 내세운다. 기술이나 지능의 차원에서만 다뤄졌던 기존 논의를 벗어나 평등과 자유, 민주주의의 관점에서 인공지능을 평가해야 한다는 것이다.

자유는 정치학의 시작을 일궈낸 기념비적인 가치다. 인간은 자유로워지기 위해 현재에 이르렀기 때문이다. 자유는 소극적 자유와 적극적 자유로 나뉜다. 벌린에 따르면 소극적 자유는 타인과 국가에 의해 간섭받지 않는 상태다. 적극적 자유는 자율적인 의지에 의해 선택권을 행사할 수 있는 상태다. 국가가 인공지능을 사용해 감시를 펼친다는 점에서 소극적인 자유도 위협당하지만, 보다 문제되는 것은 ‘넛지(부드러운 개입)’에 의한 자율성의 기만이다. 자유주의로 위장한 넛지를 통해 저자는 “인간 잠재의식 속에 있는 심리에 영향을 미쳐 목표를 세우고 스스로 선택하는 합리적인 인간으로 존중하기보다는 인간의 마음을 조종한다”고 비판한다. 선거 과정에서 인공지능의 역할이 점차 커지고 있기 때문에, 정치 참여적 측면에서도 참여자인 우리가 인공지능을 통해 조종될 수 있다는 점 또한 지적한다.

평등과 정의적인 측면에서는 인공지능이 기계 학습을 통해 특정 인종이나 젠더에 대한 편향성을 퍼뜨릴 수 있다는 점을 꼽는다. 미국 위스콘신주에서 보호 관찰을 위한 위험 평가 알고리즘인 ‘콤파스’를 이용하던 중 흑인 피고인이 실제 사례보다 재범 위험이 더 높다고 판단한 사례가 대표적이다.

인공지능과 소셜 미디어의 결합은 또 다른 문제를 낳는다. 하버마스의 숙의 민주주의는 대의 민주주의와 다수결의 한계를 해결하기 위해 고안된 개념이다. 그런데 인공지능은 소셜 미디어와 결합해 필터 버블을 형성한다. 이는 합리적인 소통에 기반한 공론장을 뿌리부터 좀먹게 한다. 한나 아렌트가 우려했던 전체주의의 도래는 인공지능에 의해 촉발된 ‘디지털 부족화’ 현상으로 실현될지도 모른다는 가능성을 제시하기도 한다.

정치적인 문제는 인간에게만 해당되는 것일까. 논의는 확장돼 포스트 휴머니즘에 대한 관점을 다룬다. 인공지능을 구동하는 데 필수적인 에너지는 다량의 탄소 발자국을 남기기 때문이다. 인간보다 발전한 인공지능에 대해 정치적 지위를 넘겨줄 수 있는지에 대한 질문도 던진다.

저자는 “인공지능의 정치학은 집과 직장, 친구 등과 함께 우리가 기술로 하는 일 깊숙한 곳까지 파고든다”면서 “데이터도 석유도 우리가 사용하지 않고 중독되지 않는다면 그렇게 중요하지 않을 것이다. 인공지능과 인공지능의 정치학은 우리를 중독 상태로 남게 하는 데 관심을 두는 사람들에 대한 것”이라는 결론을 내린다. 인공지능의 정치도 결국 인간에게 내재된 것으로부터 출발한 것이며, 지금 이 순간에도 은유적으로 사회에 변화를 몰고 있다. 1만 8800원.

박민주 기자 mj@sedaily.com