[기고] AI 챗봇이 인류에 전하는 경고

김창익 카이스트 안보과학기술대학원장
동물 대하는 잔인성, 데이터로 학습
미래 초지능AI, 사람에 되갚을수도
결국 脫인간중심주의서 해답 찾아야

[서울경제]

5월 13일 오픈AI의 챗GPT-4o가 대중 앞에 선을 보였다. ‘o’가 모든 것을 뜻하는 ‘옴니(omni)’의 약자라는 사실에서 알 수 있듯 이전 버전보다 훨씬 빠르고 감정 표현까지 구현된 음성 기반의 실시간 대화가 가능했다.

음성으로 실시간 대화가 가능한 시연을 보고 난 사람들의 반응은 매우 뜨거웠다. “영화 그녀(Her)의 인공지능(AI) 사만다가 현실로 나타났다” “음성에 감정이 실려 있어 진짜 사람과 대화하는 느낌이다” “AGI(범용인공지능)를 향한 작은 첫 스텝” “이게 본질적으로 AGI가 아니고 무엇이겠는가”와 같은 극찬이 대거 쏟아졌다.

챗GPT가 기존 언어 모델 대비 뛰어난 성능을 보이며 한 단계 도약한 주요 배경은 방대한 양으로 수집된 데이터다. 그런데 수집된 데이터 중에는 폭력과 증오, 성차별, 인종차별 등의 표현이 담긴 유해한 정보들이 엄청나게 뒤섞여 있다. 부적절한 데이터를 필터링하기 위해 오픈AI는 케냐의 한 아웃소싱 회사와 함께 일을 했다고 한다. 하지만 인간의 적극적 개입으로 유해한 데이터가 일부 걸러졌다 해도 방대한 텍스트에 포함돼 있는 인간 세상의 다양한 현실을 담은 서사가 근본적으로 바뀔 수는 없는 것이다.

‘사피엔스’의 저자로 널리 알려진 유발 하라리 예루살렘히브리대 교수는 그의 다음 저서인 ‘호모데우스’에서 “우리가 스스로 신이 되려고 시도하는 시점에서 우리의 기원을 기억하는 것이 중요하다”고 강조한다. 동물로서 인간의 과거, 또는 다른 동물과의 관계를 무시하고서는 신이 된 우리의 미래를 살펴볼 수 없다는 것이다. 현재의 인간과 동물의 관계야말로 미래에 전개될 인간과 초지능AI와의 관계를 예측하는 데 가장 좋은 모델이기 때문이다.

하라리 교수는 미래에 초지능을 가진 AI가 피와 살로 이뤄진 보통 사람들을 어떻게 대우할지 알고 싶다면 현재 인간이 자신보다 지능이 떨어지는 동물을 어떻게 대하고 있는지 보면 된다고 했다. 그동안 인류는 지나칠 정도로 인간 최우선주의에 탐닉하며 지내왔다. 그 결과 현재 초거대 AI들이 놀라울 정도의 속도로 집어삼키는 방대한 텍스트에는 인간이 상대적으로 지능이 못한 동물들을 어떻게 취급하고 있는지 입 밖으로 내기도 힘든 비참한 현실이 고스란히 담겨 있다.

관행화된 인간중심주의 사조 속에서 동물들이 처한 현실은 ‘AI 윤리’의 하나로 주목조차 받지 못하고 있는 실정이다. 방대한 인간 데이터에서 이 같은 잔인한 현실을 그대로 학습한 초지능AI가 언젠가 다가올 미래에 과연 그들보다 못한 지능을 가진 인간을 어떻게 대할 것인가를 상상하면 오싹한 두려움이 앞선다.

지금의 챗GPT가 본격적인 AGI를 거쳐 마침내 초지능AI(ASI)로 진화하기 전에 인간이 동물을 어떻게 대하는지에 대한 서사가 바뀌어야 한다. 하늘로부터 받은 수명이 20년 안팎인 소·닭·돼지·양이 좁은 우리에 갇혀 지내다가 1~2년을 채 넘기지 못하고 인간에 의해 생을 마감하는 현실과 이를 담은 텍스트가 바뀌어야 한다. 결국 해답은 포스트휴머니즘, 즉 탈인간중심주의에 있다고 생각된다.

AI가 사람보다 더 사람처럼 말하는 시대가 성큼 다가왔다. 연이틀 발표된 챗GPT-4o와 구글의 ‘제미나이 라이브’ 시연을 보고 있노라면 시간이 그리 많이 남지는 않았다는 것을 뼈저리게 느낀다.

우영탁 기자 tak@sedaily.com