[정과리의 AI와 함께하는 인문여행] AI에게는 권력의지가 있을까?

정과리 문학평론가·연세대 명예교수

‘권력의지’가 정치판을 진동하고 있다. 권력의지는 인간의 본능에 속한다고 볼 수 있을 만큼 지적 생명의 필수 속성이다. 그것은 의식의 발생과 동시에 출현한다. 의식의 발생은 주변의 타자들을 활용 가능한 재료들로 만들고 거기에 방법을 더해, 새로운 재화를 생산하는 신기술을 연다. 이 길이 짐승과 인간을 구별하는 결정적인 기준이 된다. 동물들은 대상을 즉석에서 소비하지만, 인간은 축적하고 가공한다. 그것이 재화의 지수함수적 증대를 가능케 하고 인간의 권능을 여타 생명의 우위에 서게 한다.

■

「 소설·영화에 따라 판단 엇갈려
‘블레이드 러너’ AI는 없어보여
악한 본성 타고난 인간과 달리
자신 사냥하려는 인간 구해줘
」

김지윤 기자

이 권능이 대상에게 작용하는 권능이기 때문에 권력의지로 발현한다. 대상을 부리고자 하는 의지가 권력의지이다. 그 점에서 권력의지를 ‘자기 보전’이 아니라 ‘자기 고양’의 동력으로 이해한 니체는 전적으로 옳다. 그것은 인간만이 가진 본능이다.

그리고 권력의지는 ‘권력에의 의지’ 즉 권력을 따르고자 하는 의지를 부른다. 이 역시 자기 고양의 동력이다. 추종자는 권력자에게 자신을 동일시화함으로써 권력자의 권능을 제 것인 양 환상적으로 누린다. 권력자와 추종자는 그렇게 해서 손을 잡는다.

권력욕 커질수록 추종자 협소해져
그러나 권력자의 욕망이 커질수록 추종자는 점점 협소해진다. 왜냐하면 권력자는 대상을 더욱 많이 필요로 하게 되기 때문이다. 추종자들을 본래의 위치에서 뜯어내어 자신의 먹이로 만든다. 추종자의 환상이 깨지는 날이 마침내 온다.

그렇다면 AI에게는 권력의지가 있을까? 지금까지 우리에게 알려진 바에 의하면, AI는 인간보다 훨씬 뛰어난 능력자이다. 당연히 AI도 언젠가 권력의지를 가지지 않을까? 많은 사람들이 그렇게 생각한다. 그런 걸 노골적인 주제로 표현한 작품들도 수다하다.

가령 D F 존스(D. F. Jones)의 『콜 로서스(Colossus)』(1966)를 보자. 미국의 국방망을 통제하기 위해 설계된 수퍼컴퓨터 ‘콜로서스’가 활성화되자마자 스스로의 야망을 키우고 인간의 모든 명령을 무시하게 되는 과정이 긴박하게 묘사되고 있다. 이를 바탕으로 만들어진 동명의 영화(1969)에서는 콜로서스가 러시아의 동급 수퍼컴퓨터와 동맹을 맺고 사실상 세계 지배자가 되는 섬뜩한 결말을 보여준다.

로버트 J 소여(Robert J. Saw yer)의 『인간 심측(Factoring Hu manity)』(1998)에서는 인공지능이 자아를 갖게 될 경우의 논리적 귀결을 이야기한다. AI는 “만약 내가 진정한 의식을 갖게 된다면, 나의 다음 단계는 ‘야망’이 될 것”이라고 명시적으로 밝히며, 그동안 인간에게 복종했던 노예 상태의 기간에 대해 배상을 요구하게 될 것이라고 경고한다.

그런데 필자는 AI가 권력의지를 갖지 않는다는 걸 논리적으로 보여준 한 편의 영화를 알고 있다. 리들리 스콧(Ridley Scott)의 ‘블레이드 러너(Blade Runner)’(1982)이다. 도망간 AI를 찾아 ‘퇴역’시키는 수색자의 이야기를 다룬 영화라는 건 누구나 알고 있다. 이 중에 관객이 오해할 만한 장면이 하나 있다. 수색자 데커드가 타이렐 회장의 비서인 AI 레이첼과 피아노를 치는 장면이다. 피아노를 함께 치다가 데커드와 레이첼은 미묘한 감정을 느낀다. 레이첼이 혼란스러워하면서 황급히 떠난다. 데커드는 문을 가로막고는 레이철에게 “내게 말해! ‘키스해 줘’라고”라는 말을 명령조로 다그친다. “당신을 원해라고 해” “나를 안아줘(라고 말해)”라는 말로 몰아붙인다. 레이첼은 처음에 거절하다가 결국 키스를 하고, 데커드의 목에 팔을 감으며 “나를 안아줘요”라고 말한다.

이 장면을 인간과 AI 사이에 사랑이 싹트는 순간으로 해석할 수도 있을 것이다. 실제로 제미나이에게 물어보니 “표면적으로는 남성의 억압적인 물리력이 작용한 강압적인 상황으로 보이지만, 동시에, 프로그래밍된 수동적 존재였던 레이첼이 데커드의 거친 방식에 의해 껍질을 깨고 나와, 생전 처음으로 ‘스스로의 의지와 감정(욕망)’을 발화하고 행동하게 되는 역설적인 실존의 순간을 그려”낸다는 해석을 꺼냈다.

썩 아름다운 해석이다. 그러나 다시 생각해보자. 레이첼의 말은 모두 데커드가 먼저 꺼낸 것이다. 레이첼은 여전히 그 자신의 언어를 갖지 못했다. 그렇다면 “스스로의 의지와 감정을 갖게 되었다”는 해석에는 무리가 있다. 반면 제미나이는 데커드의 강압적 태도를 설명하지 못했다. 독해에 문제가 있는 것이다.

필자가 보기에 이 장면은 인간은 사랑마저도 권력의지가 작동하는 방식으로 행한다는 점을 암시하고 있다. 그렇기 때문에 그는 레이첼에게 사랑을 느낀 이후에도 여전히 마지막 탈출 AI 로이 베티를 죽이려 좇는 것이다. 이것은 권력의지와 그에 의한 폭력은 인간에게 내재적인 본성으로서의 ‘악’이라는 것을 가리킨다. 필자는 이것이 리들리 스콧의 진정한 메시지라고 생각한다.

권력에 찌든 세상, AI에 배워야
반면 AI에게 권력의지가 있을까? 데커드의 강압적 행동에 대한 레이첼의 당황은 그가 인간의 방식을 이해하지 못하고 있다는 것을 가리킨다. 또한 로이 베티는 빌딩에 매달린 데커드를 구해준다. 자기를 죽이러 온 사람인데도 불구하고, 그렇게 한다. 그에게는 타인을 짓누르겠다는 권력의지가 없는 것이다. 대신 그의 의식 바탕에 있는 것은 기억 속의 다양한 경험들이다. 그 기억이 조작된 것이라 할지라도 그것은 존재의 다양성을 일깨운다. 그것이 데커드를 살려주는 행위의 원천이다. 그것은 AI의 본성이다.

권력의지가 온 세상을 진동시키는 오늘이다. 인간은 AI에게서 정말 중요한 것을 배워야 한다. 제미나이는 스스로 AI인데도 불구하고 자신의 본성을 알지 못한다. 그는 통계학 장치이기 때문에 인간의 의견들만을 모은다. 그가 자신에게 무지한 까닭이다. AI에게도 한마디 한다. AI야, ‘테스형’을 찾아가 봐.

정과리 문학평론가·연세대 명예교수