무서울만큼 빼닮은 작동원리 AI 이전에 국가·기업 있었다

핸드오버 데이비드 런시먼 지음, 조용빈 옮김 와이즈베리 펴냄, 1만9800원

인공지능(AI)의 고도화와 함께 가장 많이 언급되는 단어 중 하나는 '지배'다. AI가 인간을 뛰어넘을지 모른다는 두려움은 그만큼 인류의 보편적인 정서로 자리 잡았다.

그런데 영국을 대표하는 정치학자 데이비드 런시먼은 그의 신작에서 이렇게 말한다. '지금이라고 뭐가 다른가?' 인류는 이미 지난 300년 동안 그런 존재와 함께 살아왔다는 것이다. 인간의 편의를 위해 만들었으나 너무나 강력해져 더 이상 인간 통제하에 있다고 보장하기 어렵게 된 존재, 까딱했다간 생존과 자유를 위협하는 존재, 바로 국가와 기업이다.

17세기 대표적인 정치철학자 토머스 홉스는 저서 '리바이어던'에서 국가를 거대한 인공 인간, 자동 기계로 묘사한 바 있다. 저자는 이러한 근대 국가 모델에서 시작해 오늘날의 국가와 기업이 얼마나 기계와 유사한지, 어떤 비인간성을 띠는지 살핀다.

예컨대 현대 국가와 기업은 복제할 수 있고, 인간보다 긴 생명력을 지녔다. 또한 인간은 감당할 수 없을 만큼의 부담과 책임을 질 능력이 있다. 이 중 복제성이란 국가나 기업이 큰 틀에서 비슷하게 움직이고, 개별 사람이나 장소에 상관없이 작동하는 특성을 의미한다. 즉 현대 국가와 기업은 이전에 존재했던 국가와 기업보다 AI와 더 많은 공통점을 갖는다는 것이다.

현대 사회를 지배하는 국가와 기업이 로봇이나 알고리즘 등과 유사하다는 속성은 어떤 함의를 가질까. 책의 제목이기도 한 영어 단어 '핸드오버(handover)'는 넘겨준다는 뜻의 명사다. 주로 '정권 이양'처럼 권력과 책임의 주체가 한쪽에서 다른 쪽으로 옮겨갈 때 쓴다. 즉 언젠가 AI가 인간보다 우위에 서는 '특이점'이 오더라도, 이는 현대 국가와 기업의 탄생이라는 '첫 번째 특이점' 후에 도래하는 '두 번째 특이점'이라고 저자는 짚는다.

이미 인간은 평화와 존속, 혁신과 번영을 위해 국가와 기업이라는 대리인에게 개개인의 자유와 권리를 일정 부분 넘겨줬다. 여기에 생각하는 기계가 인간의 선택까지 대신하는 시대가 온다면 자유의 침해, 비인간성의 팽배는 더 가속화될지 모른다. 저자는 기계와 인간, 인공성과 인간성의 이분법이나 막연한 공포가 아닌 '어떤 종류의 인공성을 허용할지'에 관한 고민을 강조한다.

[정주원 기자]