[김대식의 메타버스 사피엔스] [27] 챗GPT는 어떤 꿈을 꿀까?

얼마 전 MIT ‘미래생명 연구소(FLI)’에서 보낸 편지가 하나 도착했다. 일론 머스크, 유발 하라리, 스튜어트 러셀 같은 유명 인사들이 서명한 이 편지의 핵심은 앞으로 6개월 만이라도 GPT-4보다 더 큰 언어 모델에 관한 연구를 보류하자는 내용이었다. 21세기에 다시 러다이트 운동이라도 하자는 말일까?

인류 역사상 처음으로 인간과 대화를 가능하게 한 챗GPT. 소비자들이 열광하자 IT 대기업들은 더 빨리, 더 큰 언어 모델을 개발하려는 ‘초격차’ 경쟁을 하기 시작한다. 그런데 우리는 초거대 언어 모델들이 정확하게 왜 작동하는지 사실 여전히 이해하지 못하고 있다. 물론 생성형 인공지능의 인공 신경망 구조, 학습 알고리즘, 그리고 학습에 사용된 데이터는 잘 알려져 있다. 그러나 초거대 데이터를 수천억 변수를 통해 학습해 나가는 과정에서 설명하기 어려운 창발적 특성(emergent property)이 나타난다. 마치 신경세포들의 작동 원리를 완벽하게 이해하더라도 ‘의식’ ‘자유 의지’ ‘감정’ 같은 뇌의 창발적 현상을 설명하기 어려운 것같이 말이다.

최근 연구 결과에 따르면 생성형 인공지능의 창발적 능력은 언어 모델이 커질수록 급격하게 늘어난다고 한다. 정확한 문법적 표현, 논리적 사고, 그리고 추론 능력 같이 입력된 학습 데이터에 직접적으로 포함되지 않았던 능력을 습득하는 생성형 인공지능을 바라보며 우리는 걱정할 수밖에 없다. 앞으로 더 큰 언어 모델들이 만들어진다면, 지금 우리는 상상도 할 수 없는 새로운 창발적 능력을 미래 인공지능이 가지게 되지는 않을까? 챗GPT 내부에서 정확하게 어떤 일들이 벌어지는지, 그러니까 챗GPT는 ‘어떤 꿈을 꾸는지’를 먼저 이해하고 나서 더 큰, 그리고 더 예측 가능한 인공지능을 만들어야 한다는 게 FLI 편지의 핵심이겠다.

결국 고민 끝에 FLI 편지에 서명했지만 바로 후회가 되기도 했다. 만약 언젠가 진정한 인공지능이 등장한다면, FLI 편지에 서명한 사람들을 미래 인공지능은 어떻게 바라볼까?