인공지능은 의식을 갖지 못한다, 대장균은 가져도 [책&생각]

신경과학자 크리스토프 코흐의 ‘통합정보이론’
수학적으로 구축한 ‘의식 이론’…“의식은 경험”
“경험은 최대 환원 불가능한 원인-결과 구조”

신경과학자 크리스토프 코흐는 “의식은 경험”이라는 명제로부터 ‘내적 관점’을 지니는 모든 것은 의식을 지닌다는 ‘통합정보이론’을 펼친다. 게티이미지뱅크

생명 그 자체의 감각
의식의 본질에 관한 과학철학적 탐구
크리스토프 코흐 지음, 박제윤 옮김 l 아르테 l 3만8000원

1998년 6월20일, 독일의 한 술집에서 신경과학자와 철학자가 ‘의식이란 무엇인가’ 토론을 벌였다. 철학자는 뇌가 어떻게 정보를 처리하는지 등 ‘쉬운 문제’는 풀 수 있어도 주관적 경험, 곧 의식이 어디에서 오는지는 과학이 해명하기 “어려운 문제”(hard problem)라고 했던 데이비드 차머스(58·미국 뉴욕대 교수). 디엔에이(DNA) 나선구조를 밝힌 프랜시스 크릭(1916~2004)과 함께 의식 연구에 매진해온 신경과학자 크리스토프 코흐(68·미국 앨런뇌과학연구소 소장)는 차머스에 맞서 “앞으로 25년 안에 누군가가 뇌에서 의식의 특정 신호를 발견할 수 있을 것이다. 만약 그렇지 않을 경우 고급 와인을 사겠다”며 내기를 걸었다. 25년이 흐르는 동안 과학은 의식의 메커니즘을 밝혀내지 못했고, 내기에서 진 코흐는 결국 지난해 6월 차머스에게 고급 와인을 건네야 했다.

코흐는 의식을 과학적으로 해명할 수 있다는 희망을 여전히 놓지 않고 있다. 2019년 출간된 ‘생명 그 자체의 감각’은 의식에 대한 자신의 이론을 종합적으로 정리한 책이다. 지은이는 이탈리아 출신 신경과학자 줄리오 토노니가 제안한 ‘통합정보이론’(Integrated Information Theory·IIT)에 기댄다. 수학적으로 구축된 이 이론은 그 의 작업에 과학적 설득력을 부여하는 한편, 통념 에서 벗어난 결과물로 읽는 이를 당황시킨다 . 예컨대 지은이는 “내재적인 인과적 힘 ” (intrinsic causal powers )이 있는 체계라면 생물이 아닐지라도 모두 의식을 지닌다고 주장하는데 , 이는 우주 만물이 마음을 지닌다는 고대 사상가들의 ‘범심론 ’과 크게 다르지 않다 . 또 디지털로 구현한 유기체나 실험실에서 배양한 대뇌 ‘오가노이드 ’는 의식을 지닐 수 있어도 , 인공지능 (AI )은 결코 의식을 지닐 수 없다고 본다 . 이 때문에 지난해 일부 과학자들은 통합정보이론이 ‘유사 과학 ’ ( pseudoscience)이라 비난하는 입장을 표명하기도 했다.

통합정보이론은 뇌에서 ‘의식의 신경상관물’(NCC)을 발견할 수 있지만 그것을 의식 자체로 봐선 안 된다고 본다. 경험은 최대로 환원 불가능한 원인-결과 구조 그 자체로, ‘완전체’에 의해 형성되지만 완전체와 동일하지 않다. 아르테 제공

기술적으로 두 뇌를 연결하는 사고 실험. 영어로 말하는 뇌와 프랑스어로 말하는 뇌는 각자의 고유한 정체성을 유지하지만, 서로 연결된 두 뇌의 뉴런 수가 어떤 임계값을 초과할 경우 또 다른 ‘완전체’(최댓값-우리)가 탄생할 수 있다. 아르테 제공

지은이의 출발점은 “의식은 경험”이라는 명제다. 느낌(feeling)은 경험(experience)과 구분되지 않으며, 무언가를 경험한다(느낀다)는 것은 더 이상 증명할 수 없는 실재의 유일한 측면이다. 그리고 “모든 의식적 경험은 다섯 가지 뚜렷하고 부인할 수 없는 속성을 지닌다.” 경험은 그 자체로 존재(내재적 존재)하고 구조화(구성)되어 있다. 또 특정한 방식으로 존재하고(정보적), 독립적인 구성 요소로 환원될 수 없으며(통합적), 그 내용과 시공간적 측면에서 경계를 지닌다(제한적). 이 다섯 가지를 공리(axiom)로 채택한 뒤, 공준(postulate)으로 삼아 물질이 정신을 지원하는 메커니즘을 해명하는 ‘최선의 설명’을 찾아가는 것이 통합정보이론이다.

의식이 그 자체로 존재한다는 공준(내재적 존재)은, “어떤 물리적 요소 집합이 본질적으로 존재하려면, 그 집합 자체에 ‘다름을 만드는 차이’를 지정해야 한다”는 사실을 가리킨다. 달리 말해, 어떤 시스템은 아무런 관찰자 없이 그 스스로에 대해 ‘인과적 힘’을 가짐으로써 존재하며, 그 힘이 클수록 더 많이 존재한다. 경험은 그 시스템을 구성하는 메커니즘에 따라 무수한 구분들로 구조화(구성)되어 있다. 예컨대 하나의 경험 안에서도 나는 책, 파란색, 파란색 책, 왼쪽, 왼쪽의 파란색 책 등을 구분할 수 있다. 경험은 무수히 많은 다른 가능성들과는 구분되는 특정한 원인-결과 구조로 지정(정보)되며, 그 원인-결과 구조는 통합된 하나로 제시되기 때문에 각기 다른 부분들로 환원할 수 없다(통합). 경험은 무한하지 않고 경계를 갖기에, 원인-결과 구조를 만드는 여러 회로 가운데에서도 최대로 환원 불가능한 것(‘완전체’라 부른다)만이 경험을 한다고 상정한다.(배제)

신경과학자 크리스토프 코흐 미국 앨런뇌과학연구소 소장. 연구소 누리집 갈무리

정리하면, 통합정보이론에서 “경험이란, 의식 상태의 시스템을 지원하는 최대로 환원 불가능한 원인-결과 구조와 동일하다.” 파란색을 느끼는 경험은 그 물리적 기제(뇌 또는 개별 뉴런들)가 아니라, 다른 어떤 것으로도 환원할 수 없는 인과적 상호작용을 제시하는 구조물의 최댓값과 동일하다. ‘통합정보’의 최댓값은 ‘Φ’(파이)로 측정할 수 있으며, Φ가 0이 아닌 모든 체계들은 ‘내재적인 인과적 힘’을 갖는다고, 곧 “의식이 있다”고 말할 수 있다. 단 Φ가 미약하면 의식도 미약할 것이고, Φ가 클수록 의식도 커질 것이다.

무엇보다 주목할 대목은, 주로 ‘행동’에 관심을 가져온 기존 신경과학계 이론들과 달리 통합정보이론은 ‘존재’에 초점을 맞춘다는 사실이다. 대체로 신경과학자들은 무언가를 인지하고 그에 맞춰 행동하는 입력-출력 체계에 관심을 가지고, 그런 기능으로부터 의식의 기원을 찾으려 한다. 인공지능이 고도화되면 언젠가 의식을 가질 수 있을 것이라는 기대도 여기에서 비롯한다. 그러나 통합정보이론은 의식은 계산이 아닌 경험이라 주장한다. 아무리 복잡한 프로그램일지라도, ‘피드포워드’(입력에서 출력까지 한 방향으로 흐르는) 방식으로 구성된 내부 회로들은 모두 개별적인 계산 처리 과정으로 환원될 수 있다. 따라서 통합정보는 0으로, 그것은 스스로 존재하지 않는다.

뇌의 크기가 커지면 지능과 함께 통합정보의 최댓값도 증가(대각선의 추세)한다. 그러나 통합정보이론은 대뇌 오가노이드 같은 ‘지능이 없는 의식’, 인공지능과 같은 ‘의식이 없는 지능’도 가능하다고 본다. 아르테 제공

뇌와 컴퓨터의 차이. 뇌와 디지털컴퓨터의 근본적으로 다른 구조는, 뇌가 의식을 가질 때 아주 큰 차이를 만들어낸다. 아르테 제공

반대로 통합정보이론은 “Φ가 0보다 큰 모든 것은 그 자체로 존재하고, 내적 관점을 가지며, 어느 정도의 환원 불가능성을 지닌다”고 주장한다. 짚신벌레 같은 단세포 유기체뿐 아니라 생물학적인 실체가 아닌 비-진화적 물리적 시스템에서조차 “적은 수준의 경험”을 발견할 수 있다는 것이다. 심지어 세포를 배양해 만들어낸 대뇌 오가노이드마저, 지능이 없고 아무 행동을 할 수 없더라도 나름의 경험을 한다고 추정한다. “지능은 행동에 관한 것이고, 경험은 존재에 관한 것이다.”

지은이는 “오직 인간만이 무언가를 경험한다는 믿음”을 무너뜨리고, 경험하는-의식이 있는 존재의 범주를 최대한으로 넓히려 시도한다. “모든 주체, 모든 완전체의 도덕적 지위가 그들의 인간성이 아니라 의식에 근거한다는 원칙”은 우리에게 이전과 다른 새로운 보편적 윤리를 요구한다. 물론 종마다 의식의 양이 다르다고 보기 때문에 통합정보이론이 ‘존재의 사다리’ 자체를 없애는 것은 아니다. 다만 의식을 인간 고유의 것이 아니라 존재의 공통 요소로 삼는다면, 우리는 이 우주에서 훨씬 더 많은 동반자들을 만들 수 있을 거라 제안한다.

최원형 기자 circle@hani.co.kr