포스트휴먼의 사막에 오신 것을 환영합니다

[세계의 창]

게티이미지뱅크

[세계의 창] 슬라보이 지제크 | 슬로베니아 류블랴나대·경희대 ES 교수

지난달 미국 비영리 단체 생명미래연구소가 지피티4보다 강력한 인공지능의 개발을 6개월 이상 즉시 중단해야 한다는 공개서한을 냈다. 일론 머스크 등 이 서한에 동참한 많은 엘리트 명사는 인공지능 연구실들이 자신들조차 이해, 예측, 통제할 수 없는 강력한 시스템을 개발하는 통제 불능의 경쟁에 빠졌다고 우려했다.

이들의 공황을 어떻게 볼 것인가? 통제가 이야기의 핵심인 것은 알겠지만 그것은 누구의 통제를 의미하나? 여기서 우리는 위태롭게 된 것이 뭔지 생각해볼 필요가 있다.

유발 하라리는 <호모 데우스>에서 인공지능이 발전하면 계급 구분보다 훨씬 더 강력한 구분이 생길 것이라고 예측한다. 그는 곧 생명공학과 컴퓨터 알고리즘이 신체, 뇌, 정신을 생산하게 될 것이며, 그렇게 되면 신체와 뇌를 설계할 줄 아는 사람과 그렇게 하지 못하는 사람 사이에 큰 격차가 발생할 것이라고 쓴다. “기술 발전의 열차를 탄 이들은 창조하고 파괴하는 신적인 능력을 얻게 되지만, 그렇지 못한 이들은 멸종에 직면할 것이다.”

앞의 서한에 드러난 공황은 “기술 발전의 열차를 탄 이들”조차도 그 발전을 통제할 수 없게 되리라는 공포다. 이 시대 디지털 봉건 영주들조차 겁을 먹은 것이다. 인공지능 능력이 커진다는 것은 권력자들에게 심각한 위협이다. 인간 행위력의 투입 없이도 스스로 생산할 수 있는 인공지능 시스템은 우리가 알고 있는 자본주의의 종말을 뜻해서다.

앞으로 많은 외로운 이들(과 외롭지 않은 이들)이 인공지능 챗봇과 친구처럼 책, 영화, 정치에 대한 대화를 나눌 것이다. 이들이 얻는 것은 카페인 없는 커피, 설탕 없는 탄산음료다. 그저 나의 필요를 다 제공해주는 친밀한 이웃이다. 여기에는 물신적 부인의 구조가 작동한다. “나는 내가 진짜 인간과 대화하고 있는 것이 아니라는 것을 잘 알고 있다. 그런데도 나는 진짜 인간과 대화한다고 느낀다. 진짜 사람과 대화할 때 마주할 수 있는 어떤 위험도 없이!”

서한의 요구는 불가능한 것을 금지하려는 시도다. 진정으로 ‘포스트휴먼’한 인공지능은 불가능한데 그 불가능한 것의 개발을 금지하고자 한다는 점에서 역설이다. 여기서 우리는 레닌의 질문을 던져야 한다. 자유는 중요하지만 누구를 위한 자유이고 무엇을 할 자유인가? 지금껏 우리는 과연 자유로웠는가? 우리는 이미 생각보다 훨씬 큰 통제를 받고 있는 것이 아닐까? 우리가 지금 해야 할 일은 미래에 인간의 자유와 존엄성이 위협받을 수 있다고 불평하는 게 아니라 바로 지금의 자유에 대해 생각하는 일이다.

미래학자 레이 커즈와일은 곧 인간 지능을 훨씬 뛰어넘는 ‘영적’ 기계가 나올 것이라고 본다. 이런 포스트휴먼적 입장을 자연에 대한 완전한 기술적 지배를 성취하려는 태도와 혼동해서는 안 된다. 오늘날 포스트휴먼 과학의 슬로건은 더는 ‘지배’가 아니라 놀라움, 계획되지 않은 우발적 출현이다. 프랑스 철학자 장피에르 뒤피는 로봇 공학, 유전학, 나노 기술, 인공 생명, 인공지능 연구에서 데카르트적인 인간 중심적 오만함이 기묘하게 뒤집혀 있음을 다음과 같이 쓴다.

“과학이 위험하게 된 것에 대해 어떤 철학자들은 인간이 자연의 주인이 되어야 한다는 데카르트적 꿈이 뒤집혔기 때문이므로 인간이 ‘주인의 주인’ 자리로 돌아가야 한다고 주장한다. 이들은 아무것도 이해하지 못하고 있다. 모든 학문의 융합을 통해 인류의 지평선에 도달한 새로운 기술이 목표하는 것은 ‘비-지배’다. 미래의 공학자들은 실수로 마법사의 제자가 되는 게 아니라 자신의 선택으로 마법사의 제자가 될 것이다.”

‘포스트휴머니티’가 실현된다면 우리 세계관의 인간, 자연, 신은 다 사라질 것이다. 우리의 인간됨은 침범할 수 없는 자연이라는 배경 위에서만 존재할 수 있다. 인간이 경험하는 ‘신’은 인간의 유한성과 죽음의 관점에서만 의미를 지닌다. 인간이 기술로 신이 될 수 있다는 ‘테크노-영지주의’적 전망은 우리를 기다리는 심연을 이해하기 어렵게 만드는 이데올로기적 환상일 뿐이다.

번역 김박수연