‘신뢰-응징’ 각인된 이타적 협력…인류 문명의 여명 밝히다

주철현의 커넥션
(22) 문명의 창발

자연의 변화를 알아채는 추론 능력이 없으면 봄에 씨를 뿌려 가을에 수확하는 농사는 불가능하다. 픽사베이

“최초의 문명인은 돌맹이 대신 욕설을 던진 사람이다.”
지그문트 프로이트(1856~1939)

문명은 인류의 삶을 자연과 구분하는 울타리다. 다른 고등 포유류에 비해 사람의 육체적 경쟁력은 없다. 문명의 여명기에 엄혹한 적자생존 원리가 지배하는 자연 생태계에서 인류는 생존을 위해 집단을 이뤄야 했다. 하지만 돌멩이는 모아 봐야 돌무더기, 지푸라기도 모아 봐야 짚더미에 불과하다. 마찬가지로 사람이 많이 모인다고 집단이 저절로 고도화되어 문명이 탄생하지는 않는다.

독립계가 창발이 되기 위해서는 구성 요소의 역동적 상호작용이 있어야 한다. 자연 생태계에서는 유전자의 진화를 통해 커다란 덩치나 날카로운 송곳니를 가지려면 생사가 걸린 자연선택을 수백세대 거쳐야 한다. 하지만 인류는 정교한 언어 소통을 통해 돌을 쪼개 날카로운 창을 만드는 법을 금방 배울 수 있다. 이처럼 소통과 협력이 집단의 생존 전략이 되면서, 인류의 두뇌는 개인 차원을 넘어서 집단 지능으로 동작하기 시작한다.

그리고 사회화라는 자기 조직화가 일어나면서 인류 고유의 복잡계인 문명이 창발된다. 역동적인 상호작용은 협력과 분쟁을 모두 의미한다. 사회화가 일어나기 위해서는 내부 분쟁 발생 시 소모적인 상호충돌이 아닌 합리적 적대성의 해소 수단이 필요하다. 동료와 싸움이 벌어졌을 때 돌로 머리를 내리치는 해결 수단밖에 없다면 문명화는 불가능하다. 물리적 폭력이 아닌 말로 싸우기 시작하면서 집단의 고도화가 가능해진다. 현대에서는 욕을 교양 없는 짓으로 여기지만, 선사 시대에는 욕이 최고의 교양이었던 셈이다.

문명을 사전에서 찾아보면 ‘인류가 이룩한 물질적, 기술적, 사회 구조적인 발전, 혹은 자연 그대로의 원시적 생활에 상대하여 발전되고 세련된 삶의 양태’로 설명되어 있다. 이처럼 포괄적으로 정의가 되어 있는 이유는, 학문에 따라 문명 개념의 차이가 있기 때문이다. 이 칼럼에서는 계의 정의에 따라 지구 생태계의 선택 압력을 벗어난 인류 고유의 복잡계를 문명으로 정의한다.

문자 미디어는 자연과 문명을 구분하는 가장 큰 특징이다. 문명의 요람에서 탄생된 문자 역시 농경과 연관이 있다. 정보를 담아 전달하는 모든 매체는 소통의 미디어다. 자연 생태계에서는 유전자, 울음, 몸짓, 배설물, 페로몬 등이 있고, 문명에는 언어, 문자, 노래, 춤, 건축물, 그림, 음악 등의 미디어가 있다. 정보 미디어는 시간과 공간의 개념에 따라 분류된다. 시간은 수직전달, 공간은 수평 전달의 개념으로 생각하면 된다. 자연 생태계에서 시간을 초월해 후대로 전승되는 수직 전달이 가능한 미디어는 유전자가 유일했다. 그리고 유전자에 담긴 생명 정보가 진화하기 위해선 세대를 거쳐야 하고 죽음이라는 시행착오를 거쳐야 한다. 하지만 문명 생태계의 미디어들은 시간과 공간을 초월해 수평 수직으로 시공을 초월해 전승된다. 정보의 진화를 위해 목숨을 걸 필요도 없다. 문자로 대표되는 문명 생태계의 정보 진화의 효율과 속도가 압도적이다.

문명이란 지구 생태계의 선택 압력을 벗어나 이룩한 인류 고유의 복잡계다. 픽사베이

농경이 문명 탄생의 계기가 된 이유

문명 탄생의 결정적 계기는 농경으로 특정할 수 있다. 채집을 주로 수행하던 선사 집단은 영민한 관찰을 통해 계절과 식물의 변화에 대해 깨우치기 시작하였다. 최소한 일 년 주기로 반복되는 자연의 변화를 알아채는 추론 능력이 없으면 봄에 씨를 뿌려 가을에 수확하는 농사는 불가능하다. 과학과 수학이라는 집단 지성의 소통수단도 농경을 계기로 시작된다. 농사의 절기를 파악하기 위해 하늘의 움직임을 관찰하고 기록해서 일정한 패턴을 찾아내는 천문학이 최초의 과학 활동이다. 또한 농작물을 분배하고 빌려주고 이자를 받기 위한 계산이 최초의 수학 활동이다.

농경을 위해 집단의 정착이 지속되면서 구성원의 자기 조직화가 일어나게 된다. 개인의 직능이 전문화되는 분업화가 일어나는 것이다. 그런데 문명에서 분업이 일어나려면 재화를 교환하기 위한 시장과 화폐가 필요하다. 작은 촌락 집단 수준에서는 개인이 생산한 생필품의 물물 교환이 가능하다. 하지만 집단이 커지면 고기나 곡식을 직접 교환하기에는 거리와 시간의 한계에 부딪힌다. 이를 해결하기 위해 화폐가 발명된다. 화폐는 다세포 생물의 몸속을 순환하는 혈액처럼 개인이 전문 기능 수행의 환경을 구축해주는 순환 시스템의 역할을 한다. 이를 통해 부족 집단은 도시 국가로 확장이 된다. 화폐라는 가치 교환 수단이 생기면서 농인, 상인, 기능인, 학자 등 다양한 전문 직능이 발전하게 된 것이다. 문명을 제외하면 아무리 고도로 사회화가 되었어도 학자 역할을 하는 개체가 있는 동물 집단은 존재하지 않는다. 자연 생태계 관점에서 학자의 역할은 식량만 소비하고 생산 활동은 하지 않기 때문이다. 문명에서는 학자들이 학문을 전문적으로 다루기 시작하면서 인류의 진화는 한 차원 위로 올라선다. 개체의 수준을 넘어서 집단의 수준에서 지식 정보가 진화하기 시작한 것이다.

종내 경쟁 완화에 성공하지 못한 동물 집단은 지속이 불가능하다. 픽사베이

종간 경쟁과 종내 경쟁 사이에서

인류 최초의 경제 혁명이라 말하기도 하는 농경으로 시작된 문명에서는 집단 진화의 요소들이 하나씩 등장해 현재에 이르고 있다. 하지만 농경이 시작되기 이전 자연 생태계에서 집단이 형성되는 것이 우선이다. 개미, 꿀벌, 반딧불이, 정어리, 기러기, 비둘기, 늑대, 침팬지, 사람 등등 곤충에서 포유류까지 다양한 동물이 집단을 이룬다. 생태계에서 개체 단독으로는 생존과 번식이 불리할 때 집단화가 된다. ‘싸움은 쪽수’라는 말처럼 집단으로 뭉치는 것이 힘의 경쟁에서 유리한 것은 두말할 필요가 없다.

그런데 자연 생태계에서는 번식이 집단화의 더 중요한 요인이다. 유전자들이 벌이는 진화 게임에서는 강한 것이 살아남는 아니라 살아남는 것이 강한 것이다. 즉 개체의 생존보다 유전자의 보존을 위한 번식 기회 증가가 집단화의 더 중요한 요인이다. 힘이 약하면 살아남는 것도 문제지만, 생식을 위해 짝을 만날 기회를 얻기 힘들다. 생식의 기회를 늘리는 가장 쉬운 방법은 집단을 이루는 것이다. 많은 동물이 평상시에 독립생활을 하다가 짝을 찾을 때만 특정 시간에 특정 장소에 모여 무리를 형성한다. 곤충이나 새들은 짝을 찾기 위해 날아오르고, 연어는 알을 낳기 위해 태어난 곳으로 돌아간다. 이는 집단화의 가장 중요한 동력이 유전자 보존을 위한 생식이라는 것을 보여준다.

번식기가 아닌 일상에서도 집단을 유지하면 개별 개체의 생존 확률도 올라간다. 하지만 동물이 상시 집단을 유지하려면 유전자의 경쟁 원리라는 장애물을 극복해야 한다. 집단으로 뭉치면 외부의 위험에 대응할 힘이 생긴다. 하지만 각 개체들은 더 많이 먹고, 더 많이 생식하기 위해 집단 내부에서 또 다른 경쟁을 벌이게 된다. 집단 외부와는 종간 경쟁을 벌이고 내부에서는 종내 경쟁이 벌어진다. 이 종내 경쟁 완화에 성공하지 못한 동물 집단은 지속이 불가능하다. 동물 집단이 사회화가 된다는 것은 개체들이 자신보다 집단을 우선시하는 이타성을 발휘한다는 의미다. 그런데 유전자 진화의 기본 원리는 생존 경쟁을 통한 선택이다. 생존 본능을 거스르고 다른 개체를 위해 희생하는 이타성의 창발은 생물학의 풀리지 않던 의문이었다. 특히 고등 지능을 지닌 포유류도 아닌, 개미나 벌 같은 곤충 집단이 극도의 이타성이 요구되는 정교한 사회 구조를 지속한다는 것은 다윈부터 골머리를 싸맨 수수께끼다.

종내 경쟁에 게임 이론을 적용해보면 이기적인 행동을 하는 모두가 이익을 보는 최고의 전략은 이타성이라는 결과가 나온다. 사진은 게임이론의 토대를 닦은 존 내쉬의 삶을 다룬 영화 ‘뷰티풀 마인드’의 예고편 중 한 장면.

이기적 행동은 어떻게 모두의 이익이 됐나

생뚱맞게 그 실마리는 생물학이 아닌 수학에서 튀어 나오는데, 2001년 개봉된 <뷰티풀 마인드>의 존 내쉬가 그 주인공이다. 세계화의 싹이 움트기 시작하던 1949년 그가 제출한 달랑 27쪽짜리 박사 논문은 경쟁에 대한 인류의 관점을 완전히 바꾼다. 경쟁은 평화, 공존, 공생 등의 도덕적 가치와 거리가 먼 단어다. 이 영화에는 먹이를 두고 경쟁하는 비둘기를 주인공이 정신없이 관찰하는 장면이 나온다. 생태계의 모든 생물은 자신의 이익을 위해 경쟁한다. 같은 종끼리는 물론, 종의 범위를 넘어서도 경쟁한다. 사람도 예외가 아니다. 개인 수준에서 집단 수준까지 서로의 이익을 위해 경쟁한다. 가만히 생각해보면 내부 경쟁이 치열하게 벌어지는 집단은 점차 소멸되어야 한다. 이 문제의 해답을 제시한 것이 내쉬 균형이다. 요약하면 소통이 가능한 집단의 구성원들이 자기 이익을 위해 경쟁하면, 모두에게 이익이 돌아가는 균형점에 도달한다는 것이다. 자연을 관찰해보면 집단화에 성공한 생물은 이타성을 통해 내부 경쟁을 해소하며 번성한다.

내쉬가 다룬 문제를 게임 이론(game theory)이라고 한다. 여기서 게임은 학부모들이 질색하는 그 게임이 아니라, 보상을 두고 벌어지는 경쟁의 수학적 모델이다. 게임 이론은 내쉬를 포함해 세 번의 노벨상이 수여되었을 정도로 현대 학문에서 중요한 위치를 차지한다. 게임은 참가자(actor), 전략(strategy), 보상(payoff)으로 구성된다. 게임 이론의 목표는 모든 ‘참가자’들이 ‘보상’에 만족하는 균형을 이루는 ‘전략’을 찾는 것이다. 개인 또는 기업이 어떠한 행위를 결정할 때, 그 결과가 자신뿐 아니라 다른 참가자의 결정에 의해서도 영향을 받는 상황을 게임이라 정의하는 것이다. 물론 개인과 기업 활동의 목표는 최대의 보상을 얻는 것이다. 게임이라는 단어를 사용하는 이유는 상대의 의도를 모르는 상태에서 결정해야 하기 때문이다. 이때 결정 기준을 전략이라 하며, 참가자들의 전략의 상호작용 결과를 다루는 것이 게임 이론이다. 게임 이론은 협력, 갈등, 대립 등의 상호 작용의 전략적 선택의 결과를 수학적으로 예측하기 위해 시작되었으며, 제2차 세계대전에서 전략의 수립에 처음 적용되었다. 그리고 내쉬의 증명 이후 자유 시장을 통해 세계화를 견인하는 경제학의 이론적 토대가 되었다. 그리고 경제학 영역을 넘어서, 생물학, 사회학, 인공지능 등 다양한 분야로 적용이 확대되었다. 요즘 뜨거운 가상화폐 역시 게임 이론을 기반으로 설계된 알고리즘으로 동작한다.

동물 집단 내부의 종내 경쟁에 게임 이론을 적용해보면 이기적인 행동을 하는 모두가 이익을 보는 최고의 전략이 이타성이라는 결과가 나온다. 간단하게 원시시대에 벌어졌을 것 같은 게임을 한 가지 상상해보자. 두 명이 협력해 고기 10덩이를 사냥했다. 사이좋게 나누면 5덩이씩 가진다. 한 명은 믿었는데 한 명은 뒤통수치면, 배신자만 10덩이를 가져간다. 둘 다 뒤통수를 치고 싸우면 숨어 있던 하이에나가 6덩이를 물고 가버린다. 이런 상황에서 배분을 위해 배신과 신뢰를 결정하는 게임을 한다. 눈치를 보는 것이기 때문에 상대의 선택 확률은 반반이다. 내가 배신을 선택했을 때 상대가 협력하면 10개, 배신하면 2개를 가진다. 따라서 배신의 기대 이득은 6덩이다. 반대로 내가 협력을 선택했을 때 상대도 협력하면 5개, 배신하면 0개를 가진다. 그럼 기대 이득은 2.5 덩이가 된다. 물론 원시인이 이런 계산을 했을 리는 없고, 단판 게임에서는 이기적인 유전자의 본능에 충실하게 배신하는 것이 2배 유리하다.

살벌한 경쟁이 벌어지는 자연 생태계에서 인류는 지능과 이타성을 바탕으로 하는 협력을 생존 전략으로 선택하였다. 픽사베이

생물학적 진화에서 집단 지성을 통한 진화로

하지만 원시인들은 집단으로 생존하였다. 따라서 위에서 설정한 사냥 결과 배분 게임을 평생 반복해야 했다. 그럼 이전 배분에서 상대의 결정은 다음 결정에 영향을 미친다. 상대의 신뢰를 배신하면 처음에는 고기를 10덩이 가져가지만, 다음에는 배신당하고 2덩이만 가지게 될 것이다. 모두가 배신을 남발하면 하이에나만 신나는 꼴이다. 이런 신뢰가 없는 집단이 지속 가능할 리가 없다. 그렇다고 무조건 상대를 신뢰하면, 집단은 손해 보지 않지만 계속 손해를 보는 호구가 된다. 이런 상황에서 개인이 취할 수 있는 최고 전략은 상대를 일단 신뢰하고 배신하면 응징하는 것이다. 오래전 수차례에 걸친 컴퓨터 시뮬레이션 대회를 통해 ‘팃-포-탯’이라는 신뢰와 응징 전략이 개인에게 최고의 이익을 준다는 것이 이미 증명되었다. 솔직히 전략이라 부르기도 민망한 팃-포-탯은 간단하고 명료해 지능이 낮은 동물 집단에도 쉽게 적용이 가능하다. 초기 집단화에서 이 전략을 따르는 개체는 집단 내에서 살아남고, 어기는 개체는 집단 외부로 추방되어 소멸된다. 이 과정이 여러 세대를 거치며 반복되면 신뢰와 응징이 집단의 기본 유전자로 진화하게 된다. 집단 생존을 선택한 인류에게도 이런 특성이 유전자에 각인되어 있는데, 낯선 사람에게 친절하고 배신을 당하면 복수하는 습성이다.

집단 내부경쟁을 상호이익으로 수렴하게 만드는 신뢰-응징 전략이 작동하기 위한 중요한 전제 조건은 상호 소통이다. 소통이란 서로의 의도를 파악할 수 있는 정보 전달을 의미한다. 소통이 없으면 이익 충돌의 해소 방법은 힘에 의한 실력행사밖에 없고, 집단 내부에서도 목숨을 걸고 싸워야 한다면 그 집단이 지속될 의미가 없다. 현생 인류 집단은 마지막 빙하기에 아프리카에 등장하였다. 우리 인류를 다른 동물과 차별화하는 가장 특별한 것이 복잡한 발음이 가능한 발성 기관이다. 이를 통해 정교한 언어를 발전시키며 집단의 고도화가 진행된다. 다른 동물의 화석은 멀쩡하거나 부러진 뼈만 발견된다. 다리가 부러지면 생존 경쟁에서 도태되어 뼈가 붙기 전에 죽기 때문이다. 그런데 문명의 여명기에 해당하는 지층에서는 부러졌다 붙은 흔적이 있는 사람의 다리 뼈 화석이 발견된다. 집단에서 누군가 부러진 다리에 부목을 대고 회복이 될 때까지 안전한 장소와 음식을 제공하며 돌보는 이타성이 발현되었다는 증거다.

지구에서 생태계가 형성된 이래 벌어진 무수한 환경 변화와 멸종의 굴레 속에서 인류는 진화해 왔다. 살벌한 경쟁이 벌어지는 자연 생태계에서 인류는 지능과 이타성을 바탕으로 하는 협력을 생존 전략으로 선택하였다. 그리고 이를 통해 탄생한 문명이라는 고유계에서 인류의 지능은 생물학적 진화 차원을 뛰어넘어 집단 지성 차원의 진화로 도약한다. 생태계에서 호모 사피엔스의 등장까지 사십억 년의 시간이 걸렸지만, 문명이 시작되고 우리 인류가 지구 생태계에서 전례가 없는 단일 지배종, 만물의 영장이 되기까지는 팔천년이면 충분했다. 이는 우리가 존재하는 문명이 얼마나 특별한 계인지를 잘 보여준다.

주철현 | 울산의대 미생물학·의학교육학 교수