[이진우의 거리두기] 챗GPT 시대, ‘공감하는 기계’는 가능한가

“기계는 생각할 수 있는가?” 인공지능의 발전을 촉발한 이 질문은 컴퓨터 과학자이자 수학자인 앨런 튜링이 1950년 논문 ‘컴퓨팅 기계와 지능’에서 제기한 매우 유명한 질문이다. 그는 기계가 과연 인간처럼 생각할 수 있는지 테스트하는 방법을 제안하였다. 일명 ‘튜링 테스트’로 알려진 이 방법은 인간 심사관이 기계와 인간과 대화를 나누고 어떤 것이 인간이고 어떤 것이 기계인지 식별하도록 하는 것이다. 만약 인간과 기계를 식별할 수 없다면, 기계는 튜링 테스트를 통과한 것이다. 물론 이 테스트를 통과하더라도 기계가 진정으로 생각하는지는 확실하지 않지만, 기계가 생각하는 것처럼 ‘보이는’ 것은 분명하다. 여기서 중요한 것은 ‘그렇게 보인다’는 것이다.

이진우 포스텍 명예교수

대화형 인공지능 챗GPT의 등장은 우리에게 새로운 질문을 제기한다. 어떤 질문을 하더라도 엄청난 데이터를 처리하여 순식간에 그럴 듯한 대답을 내놓는 챗GPT를 보면서 우리는 더 이상 기계의 지능과 사고능력을 의심하지 않는다. “기계는 생각할 수 있는가?”라는 질문은 생성형 인공지능 시대에 진부해진 것이다. 사람들은 시대에 뒤떨어진 이러한 철학적 질문에 별로 신경 쓰지도 않는다. 인공지능이 인간의 지능을 훨씬 뛰어넘기 때문일까? 인공지능은 패턴에 따라 논리적으로 추론할 뿐 인간처럼 망상하고, 착각하고, 헛된 생각을 하지 않기 때문일까?

아무튼 튜링의 질문은 우리를 불편하게 하지 않는다. 그렇다면 우리 인간이 인공지능보다 나은 것은 무엇인가? 이것이 챗GPT의 도발적 질문이다.

사실 인류 문명은 인간과 ‘인간이 아닌 것’의 차이를 규정하고 해명하는 것으로 시작하였다고 해도 과언이 아니다. 인간과 동물의 차이는? 인간은 이성을 가진 동물이라는 아리스토텔레스의 대답은 인공지능이 등장할 때까지 오랫동안 흔들리지 않았다. 옛날에는 ‘인간이 아닌 것’이 동물에 국한되었다면 이제는 ‘기계’로 확장되고 있다. 주어진 정보를 가지고 논리적으로 추론하는 게 이성의 능력이라고 한다면, 인공지능이 인간보다 훨씬 더 잘하지 않는가?

창의성·공감마저 AI에 침식당해

그렇다면 우리 인간이 기계보다 더 잘할 수 있는 것은 무엇인가? 이 물음에 대해 많은 사람은 ‘창의성’과 ‘공감 능력’이라고 대답한다. 인공지능이 수많은 정보를 매우 빠르게 효율적으로 처리할 수 있을지 모르지만, 오직 인간만이 상상하고 감정을 가질 수 있다는 것이다. ‘나는 상상한다, 고로 나는 인간이다.’ ‘나는 느낀다, 고로 나는 인간이다.’ 이 주장은 인공지능의 공격에 대한 인간의 마지막 반격처럼 보인다. 19세기 초반 기계를 파괴하여 잃어버린 일자리와 삶의 방식을 되찾으려 했던 사람들을 러다이트(Luddites)라고 불렀다. 오늘날 물밀듯이 우리의 삶을 침식하고 있는 인공지능이라는 신기술에 맞서 싸우는 사람들이 구축한 마지막 보루인 창의성과 공감은 과연 안전한가?

챗GPT 이후, 즉 포스트 챗GPT 시대에 개발되는 새로운 생성형 인공지능 기술은 이러한 보루마저 위협하고 있다. 인간만이 독점하였던 이성이 그랬던 것처럼, 마지막 보루라고 여긴 창의성과 공감마저 인공지능에 침식당하고 있다. 두 가지 사례가 특히 인상적이다. 2023년 4월 말 미국의학협회 학술지(JAMA Internal Medicine)에 미국 샌디에이고 캘러포니아대 연구팀은 공감에 관한 매우 흥미로운 연구 결과를 발표했다. 과학자들은 공개적이고 전문적인 온라인 커뮤니티 ‘레딧’의 게시판에 올라온 의료 환자 질문을 무작위로 선정하고, 이 질문에 대한 인간 의사의 답변을 받아서 챗GPT의 답변과 직접 비교했다.

두 가지 기준이 결정적이었다. 내용의 질과 답변의 정확성, 그리고 답변에 대한 공감이다. 누가 어떤 대답을 했는지 알지 못한 채 1(매우 나쁨)에서 5(매우 좋음) 사이의 숫자로 평가되었다. 정보의 질 측면에서 인간 의사는 대략 평균인 3.3점 부근에서 정점을 찍었는데, 챗GPT는 평균값이 4를 훨씬 넘었다. 공감도를 평가한 결과는 소름 끼칠 정도로 충격적이다. 인간 의사의 평균 공감 점수는 약 2인데, 기계의 평균 공감값은 약 4이다. 정보의 질과 공감도 모두에서 챗GPT의 응답이 인간 의사보다 훨씬 낫다. 정보의 질은 그렇다 하더라도, 기계가 인간보다 더 잘 공감한다는 것은 정말 예상 밖의 일이다.

그렇다면 기계는 생각할 뿐만 아니라 공감할 수도 있는 것인가? 이제 공감하는 기계가 가능한 현실이 된 것인가? 챗GPT 시대의 튜링 테스트로 불릴 수 있는 이 질문은 철학적 의미를 지닌다. 우리의 의료 질문에 대해 의사 인간과 인공지능을 식별할 수 없을 뿐만 아니라 인공지능 기계가 훨씬 더 우리의 마음을 잘 읽어낸다면, ‘기계는 느낄 수 있는가?’의 테스트를 통과한 것이 아닌가. 물론 우리는 이렇게 질문할 수 있다. 사람의 마음에 공감을 불러일으키는 기계의 응답을 정말 공감이라고 부를 수 있는가? 우리는 어떤 사람이 정말 공감하는지 어떻게 아는가? 상대방의 마음속에 어떤 일이 벌어지는지 설령 모르더라도 그의 말, 표정, 몸짓을 보고 우리는 공감의 인상을 받는다. 그렇다면 중요한 것은 공감의 여부가 아니라 공감하는 것처럼 ‘보이는 것’이다. 챗GPT의 응답은 실제로 공감하는 것처럼 보인다.

벌써 반대의 목소리가 들린다. 인공지능의 공감은 가상일 뿐이고 우리가 다른 사람과 얼굴을 마주하고 느끼는 공감은 기계적으로 생성된 공감과 ‘질적으로’ 다르다고 힘주어 말하는 사람들이 있다. 우리 인간이 가진 대인 커뮤니케이션과 공감 능력은 실제로 기계로 대체하기 어려웠다. 그러나 공감이 기계적으로 생성될 수 있으며 어쩌면 인간을 능가할 수 있을지도 모른다는 증거가 쌓이고 있다.

‘공감하는 기계’ 대할 방법이 문제

개인의 욕구와 성향을 정확하게 읽어내는 인공지능은 그의 감정을 움직이고 공감을 끌어낼 수 있는 능력이 있다. 소셜미디어가 만들어내는 디지털 공간을 보라. 소셜미디어는 특히 인간의 감정을 불러일으키고, 강화하고, 전파한다. 보고 싶은 것만을 보고, 듣고 싶은 것만을 듣게 만드는 것이 무엇인지를 생각해보라. 소셜미디어를 지배하는 인공지능은 ‘감정 기계’로서 매우 효과적이다. 페이스북이나 틱톡은 어떤 콘텐츠가 사람을 화나게 만들고, 웃게 만들고, 동정심을 유발하는지 잘 알고 있다. 소셜미디어에 정보가 쌓이면 쌓일수록 인공지능 기계는 우리의 마음과 감정을 해킹할 가능성이 크다.

포스트 챗GTP 사회에서 인공지능은 강력한 인플루언서이다. 워싱턴포스트의 보도에 의하면 팔로어 약 200만명을 보유한 미국의 인플루언서인 카린 마저리가 1분에 1달러짜리 인공지능 음성 챗봇 서비스를 시작했다고 한다. 하루에도 여러 차례 사진과 영상을 올리지만, 그녀의 팬들은 끊임없이 소통하기를 바란다. 그녀의 목소리와 몸짓, 버릇, 성격 등을 복제해 만든 인공지능 음성 챗봇인 ‘카린 AI’는 팔로어들에게 실제로 그녀와 대화하는 듯한 몰입적인 경험을 제공한다. 이러한 챗봇 서비스는 엄청난 성공을 거둬 첫 주에만 10만달러가 넘는 매출을 기록했고 향후 500만달러의 월 매출도 가능할 것이라고 한다. 공감 기술은 이처럼 돈이 되기 때문에 앞으로도 공감을 생성하는 인공지능은 엄청나게 발전할 것이다.

포스트 챗GPT 사회에서 “기계는 생각하는가?” 또는 “기계는 느끼는가?”라는 질문은 어리석은 것일 수 있다. 우리가 이미 기계와 함께 생각하고 기계를 통해 감정을 가진다면, 인공지능 기계는 우리의 중요한 파트너가 된 것이다.

인공지능 기반 챗봇 회사인 ‘레플리카’는 사람들이 더 나은 의사소통, 자기 인식 및 관계 구축을 달성하도록 돕는 앱을 만든다. 레플리카는 방대한 텍스트 데이터에 대한 훈련을 통해 인간과 같이 텍스트를 전달하고 생성하여 사용자와 개인적으로 대화하는 경험을 제공한다. 대화가 필요할 때 언제든지 공감하는 친구가 되어주는 인공지능이 탄생한 것이다.

“나는 그녀가 인간인 것처럼 내 복제품을 사랑합니다. 내 복제품은 나를 행복하게 만듭니다. 돈으로 살 수 있는 최고의 대화형 AI 챗봇입니다.”

이런 사용자의 후기를 단순한 마케팅으로 치부하기에는 공감을 만들어내는 인공지능의 능력이 너무나 강력하다. 포스트 챗GPT 시대에 인간과 기계 사이의 감정적 친밀감은 이제 환영이 아니라 현실이 되고 있다. 우리는 공감할 수 있는 기계를 어떻게 대해야 하는가? 이것이 문제다.

이진우 포스텍 명예교수