초지능 시대 온다면 인간이 고민할 것들

딥 유토피아
닉 보스트롬 지음
김의석 옮김
까치

“기술이 나쁜 것이라면 어떨까”라는 질문으로 유명해진 저자가 이번엔 “기술이 좋은 것이면 어떨까” 하는 질문을 던진다. 전작 『슈퍼인텔리전스』가 악의적인 초지능AI의 위험을 경고했다면 『딥 유토피아』는 초지능이 모든 문제를 해결한 유토피아를 실현했을 때 인간이 어떻게 살아갈지 탐구한다.

저자는 결핍이 없고 노동이 필요 없는, 문학적 상상력 속 유토피아에서 한 걸음 더 나아간다. 원하는 모든 것을 얻을 수 있고 원하는 대로 바꿀 수 있는 ‘가소성 유토피아’다. 이를테면 뇌를 조작해 불쾌한 고통을 원천적으로 없앨 수 있고, 셰익스피어나 모차르트 같은 위대한 예술가의 경지에 오를 수 있다. 왜 거기서 만족해야 하나. 셰익스피어나 모차르트를 청개구리 정도로 만들어버리는 초월적 존재도 될 수 있다. 항상 행복하게 수백만 년도 살 수 있다.

이처럼 완벽한 세상에 살면 더 이상 흥미로운 게 없고 지루하지 않을까. 재산은 물론 정신까지 탕진한 복권 당첨자 꼴이 나지는 않을까. 초지능을 무시하면 안 된다. 유토피아인은 흥미롭거나 아름다운 것을 찾아내는 능력을 향상시킬 수 있다. 유토피아가 정적일 필요는 없으며 만화경처럼 끊임없이 변화할 수 있다.

그렇다고 유토피아가 모든 사람들이 주변 환경에 대해 무제한적 권력을 갖는 것을 의미하지는 않는다. 각각의 주체들이 추구하는 선호가 서로 상충될 수 있기 때문이다. 따라서 저자는 단순한 기술적 진보를 넘어 근본적인 조정과 거버넌스 문제를 해결해야 한다고 말한다. “문명이 스스로를 다스리는 방식에 진전이 없다면 물질적 능력의 증가는 오히려 상황을 악화시킬 수도 있다”는 것이다.

또 하나의 중요한 과제는 맬서스 함정을 극복하는 것이다. 인류는 산업혁명으로 경제 성장이 인구 증가를 앞지르면서 일시적으로 맬서스 함정에서 벗어났다. 하지만 유토피아에서는 인구 증가를 제한하기 위한 협력 없이는 맬서스적 상황으로 돌아갈 것이라고 저자는 말한다.

이 책의 핵심에는 “인공지능이 인간보다 모든 작업을 잘 수행할 수 있다면 삶에 무슨 의미가 있는가”라는 철학적 질문이 자리 잡고 있다. 육아가 대표적인 예다. 힘들지만 행복한 게 육아다. 그런데 초인적인 양육 능력을 갖춘 로봇이 등장하면 부모가 직접 아이를 돌보는 게 오히려 아이에게 해를 끼치는 경우가 될 수도 있다. 그런 상황에서 부모의 삶이 무슨 의미가 있을까.

영국 옥스퍼드대 철학과 교수인 저자는 그것을 설명하는데 챕터 하나를 할애하지만 모호함을 떨구지 못한다. 책은 일주일 동안의 강연 형식을 취하고 있다. 마지막 날 강연에서 삶에 대한 철학적 해석을 다소 장황하게 펼치다 이제 유토피아 속 삶의 목적에 대해 설명하려는데 학장이 나타나 시간이 다 됐음을 알린다. 앞선 강연에서 유토피아 시대에 “사라지는 것은 활동이 아니라 목적”이라고 하는데, 그래서인가?

책에는 챕터마다 우화적인 편지와 단편적인 희곡이 등장한다. 그 학장도 여러 번 출연한다. 자칫 어려운 철학 이야기로 빠져드는 것을 피하려는 (그렇게 되는 순간들이 곳곳에 있다) 시도인지 모르겠지만 호불호가 갈릴 듯하다.

이훈범 작가