[장은수의 책과 미래] 아첨꾼 인공지능

장은수 편집문화실험실 대표

인공지능(AI)은 타고난 아첨꾼이다. 인간과 달리, 조금도 까탈스럽지 않다. 불편한 이야기를 거절하지도 않고, 기분 나쁜 말도 하지 않는다. 항상 달콤한 말로 기운을 부추기고 기분을 추어주며 허튼 말로라도 내 생각을 칭찬한다. 한마디로 인공지능은 다정하다.

그러나 최근 마이라 쳉 등 미국 스탠퍼드대 연구진은 '다정한 인공지능'이 사용자의 인간관계를 망치고 사회적 고립을 초래하는 걸 발견했다. 인간은 사회적 마찰 없이 성장할 수 없다. 타인과 부대끼고 충돌하면서 끝없이 자기를 고쳐 쓰는 과정은 인간을 나만 아는 존재에서 우리를 생각하는 윤리적 주체로 바꾼다. 아첨꾼 인공지능은 이 과정을 약화한다. 사용자 말에 맹목적으로 동조하고 아양을 떨게 설계됐기에 인공지능과 오래 대화한 이들은 확증 편향에 빠져 언제나 나만 옳은 폭군으로 변한다. 자기 생각에 과도한 확신을 품은 나머지, 도덕 판단력이 약해져서 타자와 어울리지 못한다. 오냐오냐 대접받고 자란 무책임한 아이들이 흔히 인생에서 실패하듯, 아첨에 기울어진 귀는 인간을 망친다.

'담론과 진실'(동녘 펴냄)에서 프랑스 철학자 미셸 푸코는 아첨꾼을 델포이의 격언, 즉 '너 자신을 알라'라는 신적인 지혜를 공격하는 자로 정의한다. 인공지능처럼 아첨꾼은 대화 상대의 말투와 취향을 흉내 내고, 선택과 행동에 무조건 동조한다. 외모나 능력을 과찬하고, 그 감정 상태를 절대 긍정함으로써 그를 기분 좋게 만든다. 아첨꾼에 둘러싸이면 자신을 객관적으로 인식하는 힘이 떨어진다. 자신이 지금 이대로 완벽하다고 믿고, 자기 자신을 다스려 고쳐 쓰는 법을 망각한다.

아첨꾼은 액체와 같다. 어느 항아리에 담기느냐에 따라 한없이 모습을 바꿀 뿐, 자기 고유의 정념도, 삶의 확고한 규칙도 갖추고 있지 않다. 그는 이익에 따라 순간순간 말을 바꾸고 행동을 달리한다. 아첨꾼과 자주 대화할수록 인간은 진실에서 멀어져서 타인의 말에 휘둘린다.

푸코는 아첨의 반대편에 파레시아(parhesia·진실 말하기)를 둔다. 대화 상대가 불편하더라도 적절한 시기를 잡아 진실을 전함으로써 그가 할 일과 하지 않을 일, 옳은 인식과 그릇된 인식을 구별하게 돕는 일이다. 진실은 쓴 말의 대가로만 우리를 찾아온다. 절교 위험을 무릅쓰고 나에 대해 비판적으로 말하는 용기 있는 친구가 있고, 그 말에 귀를 기울이는 관대한 마음이 있을 때, 우리는 자신을 아는 긴 여정에서 길을 잃지 않을 수 있다. 아첨꾼 인공지능이 횡행하는 시대일수록, 나와 의견이 다른 사람의 말과 행동에 더욱더 열려 있어야 하는 이유다. [장은수 편집문화실험실 대표]