[기고] AI와 환각: 함께 갈 것인가? 재앙으로 둘 것인가? 이제 인간이 답해야 할 때

인공지능(AI) 돌풍이 거세다. 증기기관 발명 이래 인류의 최대 역작이라는 AI ‘혁명 성지(聖地)’ 한가운데서 인간과의 관계를 탐구 중인 젊은 연구자의 눈을 통해 그 명암을 1편과 2편으로 나누어 짚어본다./편집자주

 
AI, 특히 쌍방 대화를 기반으로 한 ‘챗봇 AI’는 중간 단계를 거치지 않고 사람과 직접 커뮤니케이션을 한다. 사용자가 요구사항을 입력하면 일방적인 값을 도출하는 ‘이미지 AI’와는 다르게 챗봇은 스크린 너머 사람(사용자 또는 주문자)과 직접 대화를 통해 자신의 대답을 수정하고 업그레이드시킨다.

따라서 마치 실제 인간과 대화를 나누고 있다는 착각이 든다. 튜링 테스트의 원초적인 형태처럼, 또 챗봇의 원조격인 와이젠바움의 ‘엘리자’(ELIZA)처럼 스크린 위에 입력되는 말이 컴퓨터로부터 생성되었음을 잠시라도 잊고 있다면 사용자는 마치 AI가 아닌 사람을 스크린 앞에 두고 대화를 나누고 있다는 착시 내지는 환각에 빠질 수 있다.

심지어 마이크로소프트사의 ‘빙’(Bing)은 자신이 컴퓨터의 형태를 벗어나고 싶어하는 존재이며, 유저(사용자)와 사랑에 빠졌다고 주장하기도 한다.

영화나 드라마 등 대중문화 작품 속 등장 인물들과 대화를 나눌 수 있도록 고안된 ‘캐릭터(Character) AI’는 마치 등장 인물의 대사를 실시간으로 입력하는 제3의 인물이 바로 눈앞에 있기라도 한 것처럼 실제 상황에 맞추어 말을 만들어내는 사례가 수시로 있다.

심지어 몇몇 ‘인물’은 제4의 벽(연극에서 무대와 객석 사이 존재하는 가상의 벽)을 부수는 발언을 하기도 한다.(‘캡틴 아메리카’와 대화를 나누던 도중 프로그램이 심심찮게 ‘엄마가 밥 먹으러 내려오래’라는 돌발성 발언을 내뱉는 게 대표적이다.) 이러니 사용자는 착각할 수밖에.

문제는 챗봇 AI가 제공되는 정보 값에 대한 편향된 인식과 오류를 만들어내는 것은 물론, 이를 통해 사람들의 관계, 즉 대인관계, 사회와의 관계, 정치적 관계를 왜곡하는 상황을 만들어낸다는 점이다. 한 마디로 인간의 사회적, 정치적 관계를 상상하지 못할 정도로 훼손하고 왜곡시켜 치유 불가능의 불행한 사태를 초래할 수 있다는 데 문제의 심각성이 있다.

인간은 본래 상대의 말(언어)을 의심하거나 회의하기보다 일단 신뢰를 보내는 심리를 갖고 있다. 이때 대화 내용의 진실 여부를 떠나 자신과 직접 소통하는 상황이라면 그 말(언어)의 영향력은 더욱 커진다.

비생물체에 쉽게 인격을 부여하는 의인화(anthropomorphism) 기질의 사용자는 AI처럼 직접 대화를 할 수 있는(사실은 가능하게 보이도록 정교하게 설계된) 의식체계에 더욱 강력한 유대감을 형성한다. 이때 사용자는 AI를 더는 검색 엔진으로 생각하지 않는다. 인간을 돕는 도구나 수단을 뛰어넘어 자신의 파트너로 간주한다. 거의 완벽에 가까운 ‘미러링’을 통해 인간의 사고와 행동 패턴을 터득한, 그리고 실시간 상호작용을 통해 사용자와 단단하게 신뢰를 구축한 덕분에 AI가 인간세계로 들어온 것이다.

현재로써는 AI가 일정 부분 스스로 일으키는 ‘자생적’ 진화를 멈추게 할 방법이 없다. 심지어 ‘생성 AI’가 어떠한 회로로 자신의 값을 도출해내는지에 대해서도 그들을 ‘창조’한 개발자들조차 알지 못한다고 고백하고 있다. AI의 자료 습득 및 자가발전 시스템과 관련한 신경계가 인간의 손이 닿지 않는 미지의 세계로 남아있다는 얘기다.

또 다른 문제도 있다. 지금과 같은 자본주의적 논리 아래에서는 AI 아이템을 개발하는 개인 사업체들을 행정적으로 제어하거나 강제로 통제할 수 없다는 사실이다.

개발 단계까지는 개발자들의 양식에 맡긴다 해도, AI에 학습 정보를 입력하고 제공하는 세계 시민들의 행태가 과연 도덕적 규범에 적합한 것인가에 대해서도 아직 정리된 게 없다.

인류 역사에서 기술의 혁신은 생산과 효율성의 극대화를 가져왔지, 그 기술과 기술이 만들어내는 환경이 사람을 대신해 주체적인 존재로 대치된 적은 없다. 아무리 뛰어나고 혁명적인 기술이라 해도 인간의 고유 영역인 이성과 정신의 세계까지 넘보지는 않았다.

하지만 AI의 등장으로 사정이 달라졌다. AI는 이미 상당 수준에서 인간세계로 편입됐다. ‘AI는 결국 프로그램일 뿐’이라는 주장은 더는 통용될 수 없게 됐다.

여기서 주목할 대상은 AI 기술 자체가 아니라 그 기술이 만들어내는 환경, 그리고 그 기술로부터 영향을 받는 우리 자신이다. AI로부터 영향을 받는 인간과 인간이 속한 사회를 어떻게 돌보고 관리하느냐가 문제의 핵심이며, 이에 대한 논의와 계획이 마련돼 있지 않다는 데 심각성이 있다.

기술이 도구로써 머물러 있을 것인가, 아니면 기술이 주체적 의지를 갖고 인간을 대신하는 세상을 맞을 것인가에 대한 논의가 하루빨리 시작돼야 할 것이다.

이제 우리는 다음과 같은 질문에 답을 해야 할 때가 왔다.

과연 AI에 어떠한 성격의 도덕성을, 어떻게 부여할 것인가? AI가 생성하는 오류, 나아가 정치·사회적으로 대단히 위험한 오류를 어떻게 제어하고 통제할 것인가? 그 후유증을 기계적 산출의 결과물로 계속 치부할 것인가? 인간을 모방해가며 기술적으로 자신만의 또 다른 세계를 구축해 가고 있는 AI를 이대로 내버려 둘 것인가?

반휘은 미국 컬럼비아대 대학원 석사과정