마음속 심부름꾼, AI 에이전트 사회 [AI와 함께하는 세상]

인공지능 멀티 에이전트 시대에 들어오면서, 그 아이디어와 철학적 기초를 닦은 인공지능의 거장 마빈 민스키(Marvin Minsky, 1927–2016)를 생각한다.

수학도에서 인공지능의 개척자로 : 1927년 뉴욕에서 태어난 민스키 교수는 하버드와 프린스턴에서 수학을 공부했으며, 인공지능의 선구자로 각인되어 있다. 1959년 존 매카시(John McCarthy)와 함께 MIT 인공지능 연구소(AI Lab)를 설립했고, 시모어 패퍼트(Seymour Papert) 교수와 함께 뇌 신경망을 모방한 인공신경망 ‘퍼셉트론(perceptron)’의 한계를 밝혀냈다.

Minsky 교수가 인공지능과 마음을 안고 있는 모습(코파일럿으로 생성)

민스키는 단순히 ‘AI의 공학자”가 아니라 ’AI의 사상가요 철학자‘였다. 공학을 넘어 철학·심리학·인지과학의 관점과 지식을 아우르며 “지능이란 무엇인가”라는 질문을 평생 탐구했다. 그는 마음은 하나의 사회이며, 감정은 지능의 일부이며, 기계도 반드시 논리적일 필요가 없다고 보았다.

그의 사상은 오늘날 딥러닝, 인지과학, 뇌과학, 심리학 등 다양한 분야에 깊은 영향을 끼쳤다. 그의 사고의 깊이를 말해주듯이, 그는 음악(피아노, 첼로)에 조예가 깊었고, 공상과학에도 관심이 많았다. 그는 일찌감치(1969) 인공지능의 노벨상이라 불리는 튜링상을 수상했으며, AI의 ‘선구자’로 명성을 얻었다.

멀티에이전트 시스템의 발상

마빈 민스키는 그의 대표 저서 『마음의 사회(The Society of Mind, 1986)』에서 자아(Self)를 독립된 실체가 아니라 뇌 속에서 일어나는 다양한 과정의 묶음으로 보았다. 마음은 하나의 통일된 체계가 아닌, 수많은 작은 ‘에이전트(mind-agents)’의 상호작용으로 이루어진 사회(society)와 같다는 것이다. 이러한 작은 에이전트들이 협력할 때 비로소 복잡한 사고, 학습, 창의성이 나타난다고 주장했다.

마빈 민스키의 ‘마음의 사회’와 다중 에이전트 시스템(코파일럿으로 생성)

그에게 ‘나’라고 느끼는 감각은 단일한 것이 아니라 수많은 인지적 모듈이 순간순간 협력하여 형성되는 가상의 개념이었다.

그의 ‘마음의 사회’ 이론은 오늘날 멀티 에이전트 시스템(multi-agent systems) 연구에 직접적인 영감을 주었다. 이는 뇌를 단일한 슈퍼컴퓨터가 아닌, 분산된 모듈들의 네트워크로 이해하려는 인지과학·신경과학 연구에도 영향을 주었다. 그는 인간의 정신은 하나의 단일한 시스템이 아니라, 수많은 단순한 에이전트들의 상호작용을 통해 이루어지는 협력적 네트워크로 보았다. 이러한 에이전트들이 모여 복잡한 인지능력을 만들어 낸다는 이론이다. 그의 이론에서 에이전트는 독립적이고 특정 기능만 수행한다. 따라서 복잡한 사고와 행동을 하려면 에이전트의 조합(agency)이 필요하다.

인간의 자아와 기계의 알고리즘

민스키는 인간의 자아를 실체로 보지 않았다. 그것은 뇌 속 다양한 과정이 순간적으로 만들어낸 가상 개념일 뿐이라고 주장했다. 또한 그는 “기계가 반드시 논리적일 필요는 없다”고 강조했다. 오히려 인간지능의 강점은 직관·감정·편향 등 불완전함과 비논리성에 있으며, 진정한 인공지능 역시 그러한 유연성을 가져야 한다고 보았다. 따라서 지능적인 기계도 논리적 알고리즘뿐 아니라 비논리적 요소를 포함해야 하며, 완벽히 논리적일 때는 오히려 인간처럼 적응력 있는 지능을 구현하기 어렵다고 주장했다.

기계 속의 두뇌=빈 자아=마음의 신기루(코파일럿으로 생성)

감성지능(EQ)의 저자로 유명한 다니엘 골먼(Daniel Goleman)은 민스키의 이론이 불교의 ‘무아(無我)’ 개념과 본질적으로 닮아있다고 해석했다. 그는 ‘자아’란 실체가 아니라 마음의 신기루에 불과하며, 중심인물이 없는 채 권력을 두고 끊임없이 경쟁하는 위원회와 같은 구조라고 설명했다. 즉, 자아는 ‘빈 자아(empty self)’이며 실제로 존재하지 않는 ‘마음의 신기루(a mirage of the mind)’에 가깝다는 것이다. 이는 인지 신경과학에서 발견되는 ‘자아의 해체’와도 맞닿아 있다. 골먼은 그 대표적 사례로 마빈 민스키의 ‘마음의 사회’ 이론을 들며, 지난 세기 서양 사상을 지배해 온 전통적 자아 개념보다 불교의 자아 모델이 더 잘 부합할 수 있다고 보았다(American Scientist, 2004, 92(1), pp. 62–69).

감정과 지능, 그리고 멀티모달

민스키는 그의 저서 『감정 기계(The Emotion Machine, 2006)』에서 감정을 지능의 부작용이 아니라 사고 모드를 전환하는 핵심 메커니즘으로 설명했다. 감정을 단순한 비이성적 반응이나 이성의 방해 요소로 보지 않고, 지능의 필수적 구성 요소로 보았다. 두려움은 위험 회피적 사고 모드를, 분노는 공격적 전략을 유도하며, 이처럼 감정은 상황에 따라 문제 해결 전략을 효율적으로 바꾸는 인지 모드 전환 장치라는 것이다. 『감정 기계』에서는 감정이 논리·기억·학습과 어떻게 결합해 작동하는지 탐구하고 있다.

또한 그는 마음을 하나의 통일된 실체가 아니라 수많은 작은 ‘에이전트(agents)’의 집합으로 보았다. 각각은 단순한 규칙만 따르지만, 이들이 협력할 때 복잡한 사고와 창의성이 나타난다고 보았다. 또한, 민스키는 여러 가지 감각과 정보를 하나로 묶어 상황을 이해하도록 돕는 ‘생각의 틀’을 프레임(frame)으로 설명했고, 로봇 팔 실험을 통해 이런 멀티모달을 개발하여 직접 보여주기도 했다. 이는 시각·언어·청각·행동 등 서로 다른 모드를 통합적으로 다룰 수 있는 멀티모달 AI의 이론적 기반이 되었다.

민스키는 인간의 마음과 기계지능 사이의 경계를 허물고자 했다. 인간지능도 복잡한 기계적 과정의 산물일 뿐이며, 충분히 정교한 기계라면 인간과 같은 지능, 심지어 의식까지 구현할 수 있다고 믿었다. 이는 ‘강한 AI’ 철학의 주요 기반이 되었다.

오늘날 AI에 끼친 영향과 시사점

민스키의 도발적 질문 “기계는 생각할 수 있는가?”는 이제 “기계는 인간처럼 느끼고 적응할 수 있는가?”라는 차원으로 확장되고 있다. 그는 진정한 지능은 단순 계산을 넘어 감정을 통한 모드 전환과 다층적 사고 구조를 포함해야 한다고 보았다.

그의 사상은 오늘날의 멀티에이전트 시스템, 모듈형·하이브리드·분산형 AI 연구에 직접적인 영감을 주었다.

또한 감정을 단순 반응이 아니라 인지적 모드 전환 장치로 이해한 관점은 감정 컴퓨팅(Affective Computing)으로 계승되었다. 감정에 대한 그의 관점은 훗날 감정 인공지능과 인간-컴퓨터 상호작용(HCI) 연구의 기반이 되었다. 이는 맥락과 감정에 따라 반응하는 적응형 챗봇과 로봇 설계로 이어지며, 인간과 자연스러운 소통을 위한 AI의 필수 조건으로 여겨진다.

민스키의 사상은 오늘날 AI의 여러 흐름에 중요한 기반이 되었다. 특히 인공지능이 깊이를 더하고 세계적 경쟁력을 가지려면 단순한 ‘공학’적 접근을 넘어 ‘철학’적 깊이를 가져야 한다는 점을 새삼 일깨워 준다.

[여현덕 카이스트 G-School 원장/기술경영대학원 교수]