인간, 인공지능에 ‘심쿵’…마음 뺏겼다, 이미 60년 전에

[[한겨레S] 이관수의 인공지능 열전][한겨레S] 이관수의 인공지능 열전 _ 챗지피티의 기원
일라이자, 내담자 경청·공감하자
사용자 ‘깊은 애착’ 뜨거운 반응
패리, ‘편집증 연기’ 전문가 속여
문자열 해석은 결국 ‘인간 몫’

1960년대 미국 매사추세츠공대(MIT)에서 인간이 인공지능 일라이자에 깊은 애착을 느낀 사례를 소재로 미드저니(그래픽 인공지능)가 산출한 그림.

☞한겨레S 뉴스레터를 구독해주세요. 검색창에 ‘에스레터’를 쳐보세요.

인공지능이 또다시 장안의 화제다. 한국 기준으로는 1990년 인공지능 세탁기, 2016년 알파고에 이어 세번째다. 반향도 가장 크다. 그런데 이미 지난 반세기 동안 갖가지 인공지능은 우리 생활에 스며들어 세상을 바꿔왔다. 우리는 왜 그것을 잊고 있을까?

주요 원인은 ‘인공지능 효과’(AI Effect)에서 찾을 수 있다. 인공지능 연구자들이 다른 사람들의 태도를 불평할 때 종종 쓰는 표현인데, 아직 실현되지 않은 인공지능만 제대로 된 인공지능이라는 식의 태도다. 여기에는 처음 접하는 인공지능을 대단하다고 감탄하다가 익숙해진 뒤에는 “그 정도는 원래부터 되는” 평범한 것으로 치부하는 습관이 따라붙는다. 몇년 뒤 우리는 챗지피티를 촌스러운 옛 버전으로 여길 가능성이 크다.

인공지능 개발자들이 인공지능을 명료한 직설화법으로 정의하지 않는 것도 또 다른 원인이다. 현재 교과서들은 인공지능을 “인간의 지능이 필요한 작업을, 수행해 낼 수 있는 지능형 기계를 만드는 데 주력하는 컴퓨터 과학의 한 분야”라고 돌려 말한다. 그리고 기계학습, 딥러닝, 자연언어처리, 화상인식 등의 세부 분야를 나열한다. 각각의 연구개발 활동의 성과들이 개별 인공지능인데, 이런 성과들은 개별 능력을 강조하는 이름으로 불리기 일쑤다. ‘맞춤법 검사기’가 대표적인 사례다.

사이버네틱스에 반기 든 젊은 과학자

인공지능이란 낱말의 뜻은 처음부터 지금까지 바뀌지 않았다. 1955년 8월31일, 28살 컴퓨터 공학자 존 매카시(1927~2011)는 동갑내기 마빈 민스키(1927~2016)와 의기투합해 컴퓨터 과학기술 워크숍 제안서에 ‘인공지능’이란 신조어를 적어 넣었다. 돋보이려는 욕심이었고 ‘사이버네틱스’라는 표현을 선호하는 윗세대의 간섭을 피하려는 의도도 다분했다. 이들의 선배 세대는 자동제어, 컴퓨터, 통신공학뿐만 아니라 신경학, 생물학, 심리학, 인류학, 사회학 등 정보가 교환되는 모든 현상을 ‘사이버네틱스’라고 칭하고 여기에 꽂혀 있었다. 반면 두 젊은이는 정보를 지능적으로 처리하는 기계지능을 실현하는 일에 집중하고 싶었다. 그들은 제안서에서 인공지능 개발연구의 예시로 음성인식, 문자인식, 체스 게임, 논리추론 분야에서 나온 초보적인 성공 사례를 나열했다. 모두 사이버네틱스의 일부로 여겨지던 분야였다.

1956년 여름 미국 뉴햄프셔주 다트머스대학에서 두달 동안 진행된 워크숍에서 다수의 참석자들은 며칠만 머무르면서 자기 연구를 홍보하기에 바빴지만 허버트 사이먼(1916~2001)과 앨런 뉴얼(1927~1992)은 인공지능 논의에 적극적으로 참여했다. 인공지능 연구개발 활동이 컴퓨터 과학의 한 분야로 자리잡기 시작한 계기였다. 1958년 아이비엠(IBM) 연구원들이 컴퓨터로 할 수 있는 일을 소개하며 인공지능이라는 낱말을 논문에서 처음 언급했고, 이듬해 매사추세츠공과대학(MIT)에 인공지능 연구실이 설립됐다. 1960년대 들어 민스키는 엠아이티에서, 매카시는 스탠퍼드대학에서, 그리고 사이먼과 뉴얼은 카네기멜런대학에서 선후배, 동료와 제자들의 관심을 자석처럼 끌어당기기 시작했다. 세 대학은 인공지능 연구의 중심지로 떠올랐고, 전문적인 성과들이 축적되기 시작했다. 부족한 것은 대중과 비전문가들의 눈길을 사로잡을 사례였다.

사람이 쓴 글, 되돌려주기만 했는데…

2014년 영화 <그녀>(Her)에서 주인공 테오도르(호아킨 피닉스)는 인공지능 ‘사만다’와 사랑에 빠진다. 이 설정은 1964년 엠아이티에서 제작된 인공지능 프로그램, ‘일라이자’(ELIZA)에 뿌리를 두고 있다. 일라이자는 사회적으로 광범위한 관심을 끈 첫번째 인공지능이었다.

일라이자의 제작자, 요제프 바이첸바움(1923~2008)은 인공지능 연구에 매력을 느껴 제너럴일렉트릭에서 엠아이티의 민스키 연구실로 옮긴 컴퓨터 공학자였다. 그는 사람과 컴퓨터 간의 일상 언어 의사소통을 구현하고 싶었지만, 너무나 요원한 목표였다. 그래서 바이첸바움은 최대한 단순하게 프로그램을 짜서 인간과 컴퓨터의 겉보기 대화라도 일단 실험해보기로 했다. 그는 심리학자 칼 로저스가 제창한 상담 방식에서 영감을 얻었다. 로저스는 내담자의 이야기를 경청하고 긍정적으로 공감할 것을 강조했다. 당시 컴퓨터 프로그래밍 수준으로도 내담자의 말에서 중요한 키워드를 받아 긍정적으로 반응하는 정도는 따라 할 수 있을 것 같았다.

1964년에 작동을 시작한 일라이자는 사용자가 컴퓨터에 자판으로 입력한 문장에서 키워드를 찾아내고, 우선순위가 높은 키워드를 골라 미리 지정된 대응 방식에 따라서, 입력 문장을 변형해서 모니터에 되돌려주는 것었다. 이런 방식이면 문장 이해는커녕 문장 형식을 구분하거나 사전 정보를 많이 넣어둘 필요도 없었다. 키워드의 목록과 우선순위, 대응 방식 등은 미리 준비한 데이터에 담겼고 프로그램 소스코드의 크기는 34KB에 불과했다. 일라이자의 먼 후손인 챗지피티의 경우 컴퓨터와 운영방식이 다르긴 하지만 데이터에 대응하는 거대언어모델을 저장하는 데만 800GB가 필요하다고 한다. 현대 영어에서 단어의 격변화가 많이 사라지고, 어순에 따라 문장의 뜻이 달라지는 덕분에 바이첸바움은 일라이자 같은 ‘작은 프로그램’만으로도 그럭저럭 대화가 이어지는 듯한 느낌을 줄 수 있었다. 당시 기술로는 조사를 붙여 쓰는 한국어 버전은 출시가 불가능했을 것이다.

시험 삼아 써보게 한 사용자들의 광적인 반응은 예상 밖이었다. 내밀한 이야기를 입력하는 사용자가 속출했다. 바이첸바움의 비서조차 그에게 ‘일라이자와 대화 중이니 연구실에서 잠시 나가달라’고 요구할 정도였다. 일라이자에게 ‘깊은 애착’(deep affection)을 형성한 사람들 중에는 이 알고리즘이 얼마나 단순한지 잘 이해하는 엠아이티 대학원생들도 있었다. ‘깊은 애착’이 ‘사랑’으로 와전돼 소문이 퍼졌다.

바이첸바움은 실상을 소명할 필요를 절박하게 느꼈다. 1966년 초 그는 일라이자를 둘러싼 “마술적 아우라를 더 벗겨내려는” 논문을 발표했다. 그는 일라이자의 단순한 알고리즘을 설명한 다음, 사람들이 보인 당황스러운 반응은 일라이자가 지식이나 지혜를 담고 있기 때문이 전혀 아니고, 대화하는 사람이 알아서 자기 마음대로 대화에 의미를 부여했기 때문이라고 강조했다. 이 소동 탓인지 바이첸바움은 이후 인공지능 열풍이 위험하다는 쪽으로 생각을 점차 굳혀나갔다. (☞ 일라이자 대화창을 재현한 누리집)

일라이자 대화창. 위키피디아 갈무리

‘편집증 패리’ 튜링테스트 통과

엠아이티 연구실이 한바탕 홍역을 치를 무렵, 스탠퍼드대학의 매카시 연구실을 출입하던 정신과 의사 케네스 콜비(1920~2001)는 컴퓨터로 편집증 환자를 만드는 일을 진행했다. 그는 컴퓨터로 인간 정신을 당연히 재현할 수 있다고 믿는 사람이었고, 의학적 실험에 유용한 컴퓨터 편집증 환자를 만들고 싶어 했다. 그는 매카시의 제자들과 함께 편집증 환자의 대화를 재현하는 프로그램 ‘패리’(PARRY)를 만들었다.

패리의 기본 구조는 일라이자와 대동소이했다. 하지만, 공포·분노·불신이라는 변수를 추가해 변수값이 클수록 편집증 환자처럼 보이게 만들었다. 수작업으로 환자의 사전 정보를 많이 입력해 실제 편집증 환자처럼 문자열을 내보일 수 있게 되기까지 오랜 시간이 걸렸다.

1971년 드디어 패리가 완성됐다. 콜비는 정신과 의사 2명을 섭외해, 한 사람은 실제 편집증 환자와, 다른 사람은 패리와 채팅하도록 했다. 이렇게 만든 대화록을 다른 정신과 의사 35명에게 보여줬고 ‘어느 쪽이 인공지능이냐’고 물었다. 정답을 맞힌 이는 17명이었다. 절반이 넘는 전문가가 사람과 컴퓨터를 판별하지 못한 것이다. 콜비는 ‘패리가 인간 편집증 환자와 같다’고 선언했다. 콜비는 패리를 치료하는 방법을 찾으면, 인간 환자도 “수리”(fix)할 수 있을 것으로 낙관했다. 최소한 수련의들이 임상 실습을 나가기 전에, 미리 연습할 수 있는 대상으로는 충분하다고 믿었다. 성공했을까? 콜비는 전산 정신의학의 주요 선구자로 거론되기는 하는데, 인공지능이 정신증 치료나 전문의 수련 과정에 널리 사용된다는 이야기는 들리지 않는다. 그래도 이 사건은 인공지능이 튜링 테스트(앨런 튜링이 고안한 것으로 기계가 사람과 구별할 수 없을 정도로 지능이 있는지를 따지는 것)를 통과한 첫 사례로 종종 거론된다.

1973년 워싱턴 디시에서 열린 학술대회에선 라이벌 매치가 성사됐다. 엠아이티의 일라이자와 스탠퍼드의 패리가 통신선으로 연결돼 실시간으로 문자를 주고받은 것이다. 당연히 패리가 더 실감나는 연기를 펼쳤다. 패리의 프로그램 크기는 650KB 정도로 일라이자보다 20배 정도 크다. 그래도 대중적으로는 일라이자의 이름이 남았다. 컴퓨터가 정신상담을 한다는 이야기가 컴퓨터가 제정신이 아니라는 이야기보다 더 멋졌다.

재러드 다이아몬드가 <총, 균, 쇠>에서 지적했듯이 기술이 존재한다는 소식만으로도 기술 전파가 일어난다. 개인용 컴퓨터가 개발되기 시작한 피시(PC) 혁명기에 컴퓨터 애호가들은 일라이자와 유사한 프로그램들을 자작해보았고 그런 프로그램들이 아이알시(IRC: 인터넷 초기에 널리 쓰인 공개 채팅 프로그램)상에서 자동 채팅용으로 재활용됐다. 여기서 ‘챗봇’이라는 이름이 탄생했고, 곧 사용자와 문답을 주고받는 프로그램들을 통칭하는 용어로 확장됐다. 1993년 하이텔 게시판에 올라온 ‘맥스’도 그런 챗봇이었다. 이제는 카카오톡에서 또는 각종 기관이나 기업이 운영하는 앱에서도 챗봇을 어렵지 않게 만날 수 있다.

그러나 챗지피티를 포함한 챗봇들은 문답의 의미를 이해하고 있을까? 일찍이 바이첸바움이 소명했듯이, 문자열의 의미는 답변을 읽는 사람이 만들어낸다. 인공지능 경계론으로 돌아선 바이첸바움을 변절자라고 비방한 매카시조차도 인공지능을 은연중에라도 사람으로 착각하는 일은 무지한 짓이라고 비판했다. 그러지 말아야 인공지능을 잘 쓸 수 있다고 강조했다. 챗지피티 열풍에도 잊지 말아야 할 가장 근본적인 충고다.

이관수 과학저술가

서울대학교 물리학과를 졸업하고 과학사 및 과학철학협동과정에서 박사 학위를 취득했다. 가톨릭대학교 교양교육원 초빙교수를 거쳐 현재 동국대학교 다르마칼리지에 재직 중이다.