“인간, 위협 느끼니 비로소 생각…‘삶의 해상도’ 높여야 ‘AI 방향’도 지정”

■ 좌담 - ‘AI 시대’, 기계와 인간의 현재와 미래
챗GPT 앞선 ‘한유아기획’
기계와의 대화 시도 의미
‘인간이 기계 만들고 나면
기계가 다시 인간 만드는’
상호 피드백 점검 필요해
기계 통해서 관계 배우면
사람간의 갈등 처리 못해
인간·AI 차이 성찰 기회
기술과 상호 작용하면서
또 다른 존재로 변모할 것

김재인(왼쪽) 경희대 교수와 오영진 서울과기대 교수가 11일 서울 중구 문화일보 본사에서 대담을 나누고 있다. 백동현 기자

철학자 김재인 경희대 학술연구교수

기술문화연구자 오영진 서울과기대 초빙교수

사회 = 최현미 문화부장 chm@munhwa.com

정리 = 나윤석 기자 nagija@munhwa.com

“인간은 ‘위협’을 느낄 때 비로소 ‘생각’을 시작한다. 인공지능(AI)의 역습에 대한 우려가 나오지만, 인간과 기계의 관계를 성찰하는 기회를 얻었다.”(김재인 경희대 비교문화연구소 학술연구교수)

“인간은 기계를 만들고 기계는 다시 인간을 만든다. AI 시대엔 더 섬세하고 입체적인 경험을 하며 더 까다로운 감각으로 우리 삶의 ‘해상도’를 높여야 한다. 이 기준이 높아야 AI가 나아갈 방향도 지정할 수 있다.”(오영진 서울과학기술대 융합교양학부 초빙교수)

AI와 인간의 소통을 실험한 ‘가상인간 한유아 프로젝트’를 마무리하며 철학자 김재인과 기술문화 연구자 오영진 교수가 ‘AI 시대 인간’을 주제로 이야기를 나눴다. 기계와 인간, AI에 대해 오랫동안 연구해 온 두 인문학자는 ‘챗GPT 열풍’이 촉발한 다양한 변화와 윤리적 문제, 앞으로의 전망 등에 대한 깊은 혜안을 들려줬다. 대담은 11일 오후 문화일보에서 최현미 문화부장의 사회로 약 2시간에 걸쳐 진행됐다.

―이번 시리즈의 의미를 평가하면.

△오영진(이하 ‘오’) = 챗GPT가 나오기 전에 ‘인간적으로 보이는’ 기계와 대화를 시도했다는 의미가 있다. 일종의 ‘SF 실험’을 통해 인간과 기계의 ‘접촉면’을 넓혔다.

△김재인(이하 ‘김’) = 2020년 말 공개된 챗봇 ‘이루다’만 해도 성희롱 논란 등 우여곡절이 많았다. 하지만 과거 오류를 극복하고 점점 나은 대화를 이끌어간 한유아는 진일보한 실험을 보여줬다.

―시리즈는 인간과 기계의 교감 가능성을 모색한 기획이다. ‘기계는 과연 인간을 위로할 수 있을까?’라는 질문을 다시 던질 수밖에 없다.

△오 = 챗GPT와 대화하면서 많이 실망했고, 많이 사랑했고, 많이 경악했다. 언뜻 위로받는 느낌도 있었지만 길게 얘기하면 어느 순간 내 말을 영혼 없이 반복하는 것 같아 슬픔과 분노가 솟았다. 사람이 그렇듯 기계 역시 ‘애증의 관계’가 될 수 있음을 인식해야 한다.

△김 = 대인관계가 무난한 보통 사람들에게 AI는 여러 대화 상대 중 하나일 뿐이다. 하지만 관계 맺기가 어려운, 병리적 상황에 놓인 이들에겐 AI가 ‘N분의 1’이 아닌 ‘온리 원(only one)’일 가능성이 있다. 이들이 과도한 감정이입으로 기계를 ‘의인화’해 위로를 구하면 위험해질 수 있다.

△오 = 최근 벨기에에서 기후위기를 염려하는 우울증 환자가 집에 틀어박혀 챗봇과 비관적 얘기를 나누다 극단적 선택에 이른 사건이 벌어졌다. 인간이 던진 질문 속 키워드 안에서 ‘염려’를 ‘긍정’했을 뿐인데, 결과적으로 인간을 삶에서 떼어놓은 것이다.

△김 = 기계와 관계 맺는 과정에서 인간이 고립되는 문제는 소셜미디어가 확산한 15년 전부터 예견됐다. 기계를 통해서만 관계를 배우면 정작 사람과 사람 사이에서 생겨나는 갈등 요소를 처리하지 못한다. 챗GPT라는 ‘상품’이 등장해 철학적·윤리적 논의 없이 광범위하게 활용되고 있어 우려스럽다.

△오 = AI만이 아니라 새 기술이 등장하는 고비마다 ‘인간이 기계를 만들고, 기계가 다시 인간을 만드는’ 상호 피드백을 섬세하게 점검해야 한다. 하지만 우리는 인터넷이 출현했을 때도, SNS가 널리 퍼졌을 때도 충분한 성찰을 하지 못했다. 기술이 언제나 ‘첨단의 지위’를 누리며 ‘따라올 테면 따라와 봐. 못 따라오면 뒤처질 거야’라고 압박하는 듯한 담론에 브레이크를 걸어야 한다.

―반드시 필요한 논의가 생략된 채 새 기술에 환호하거나 두려워하는 분위기다. 챗GPT를 포함한 AI 기술이 현재 어느 단계이고, 앞으로의 전망은.

△김 = 묻고 답하는 대화형으로 진행되는 인터페이스는 거의 완성 단계에 도달했다. 앞으로 이것이 표준이 될 것이다. 그런 면에서 중요한 도약이고 하나의 획을 그은 사건이다. 따라서 앞으로는 오히려 이를 통해 어떤 경험을, 어떤 콘텐츠를 줄 것인가가 관건이다. 현대 산업은 소비자들의 어텐션(attention), 즉 ‘주목 시간’을 놓고 무한 경쟁을 펼친다. 전혀 다른 영역인 닌텐도와 나이키·넷플릭스가 서로 경쟁한다. 생성 AI 기술의 성패 역시 새로운 경험을 얼마나 제공하느냐 여부에 달렸다. 개인적으로 기술과 콘텐츠를 아우르는 순도 높은 경험을 ‘스마트 파워’라는 개념으로 구체화하고 있다.

△오 = 챗GPT는 ‘방글방글 웃고 있지만, 나를 속이기 위해 호시탐탐 기회를 노리는 비서’ 같다. 최근 AI와 관련해 학계에서 논의되는 화두 가운데 하나가 ‘환각(hallucination)’ 문제다. 환각은 ‘세종대왕이 거북선을 만들었다’와 같은 엉뚱한 소리로 인간을 오도한다는 뜻이 아니다. 정확한 질문에 올바른 답변을 내놓아도 ‘거짓의 과정’을 통해 진실을 말한다는 근본적 한계를 의미한다. 옳은 대답조차도 인간의 사고 과정과 달리 확률적 결합이라는 일종의 환각을 통해 현혹한다는 점을 인식해야 한다. ‘틀린 팩트’를 생성하는 것만 지적하면 안 된다는 얘기다. 다만 이런 한계에도 불구하고 AI가 비서 같은 역할을 수행하면서 아주 먼 존재였던 인간과 기계의 거리가 가까워진 건 분명하다. 기술 발전으로 AI가 인간을 넘어서는 ‘특이점’이 언제 올지 여부는 중요하지 않다.

― 챗GPT의 능력과 한계는.

△김 = 인문·사회보다는 이공계 분야에 확실히 강점이 있다. AI가 기술 관련 문서를 특히 많이 익힌 데다 방대한 코드를 학습한 덕분에 정리한 내용을 비교적 정확히 출력해준다. 반면 인간들조차 합의를 이루지 못한 인문·사회, 그리고 ‘로컬’ 문제에선 ‘아무 말이나 하는’ 상황이 속출한다. 개인적으로 챗GPT가 큰 쓸모가 없어서 최근 오픈 AI 유료 구독을 끊었다.

△오 = ‘아무 말’이 많으니 의심병이 짙어진다. 챗GPT를 전문적으로 활용하려면 일일이 ‘크로스 체크’를 해야 하니 말이다. 진실에 대한 신경증적 강박과 의심병은 AI 시대의 새로운 병적 징후가 될 것 같다.

― 예술 창작은 어떤가.

△오 = AI의 창작품이 인간이 만든 예술에 육박하기는 힘들 것이다. ‘(살바도르) 달리풍으로 그려달라’고 주문하면 엇비슷한 결과물을 내놓으니 놀랍긴 하다. 하지만 그걸 어디에 쓸 건가. 수천만 개 중 하나일 뿐인 달리풍 그림은 ‘달리 복제품’보다 가치가 떨어진다. AI가 생성한 작품은 ‘새로운 키치’ 정도로 생각하면 될 듯하다. 겉으로는 그럴듯하지만 사실은 싸구려 예술품에 불과했던 19세기 중후반의 키치처럼 말이다.

△김 = 예술이든 전문지식이든 수많은 ‘가짜’ 속에서 ‘진짜’를 알아보는 감식안은 점점 중요해질 것 같다. AI는 ‘랜덤’이기 때문에 아무리 알고리즘을 조작해도 최종적으로는 사람이 판단할 수밖에 없기 때문이다.

―일상에 미칠 심각한 영향은.

△오 = 과거가 선명해지는 것이다. 일례로 한 방송사의 다큐멘터리 ‘너를 만났다’에서 딸을 잃은 부모는 홀로그램으로 복원된 딸의 3D 영상을 보고 눈물짓는다. 과거는 사라짐으로써 남겨진 이들의 ‘상실감’을 서서히 줄여주는데, AI 기술은 ‘살려낼 수 있다’는 희망 고문을 한다. 죽은 자가 되살아나는 시대에 인간은 ‘선명해진 과거’와 싸워야 하는 상황에 놓였다. 과거가 무한히 생생해진다는 건 인간에게 축복일 수 있으나 근본적으로는 엄청난 중압감과 스트레스로 다가올 수밖에 없다.

△김 = 호르헤 루이스 보르헤스의 소설 ‘기억의 천재 푸네스’가 생각난다. 소설에서 푸네스는 기억량이 일정 한도를 초과하면 현재를 잃어버린다. AI 시대의 현대인 역시 푸네스와 비슷하지 않을까. 사라지지 않는 과거 때문에 인간의 정신은 점점 피폐해질 수 있다.

―어떻게 대처해야 하나.

△오 = ‘삶의 해상도’를 높여야 한다. 인간이 살아간다는 건 그 자체로 입체적인 행위인데, 그동안 우리 삶은 충분히 입체적이지 못했다. 디지털과 AI 기술이 복원한 삶을 보며 ‘디지털이 아날로그에 육박했다’고 경탄하는 건, 아날로그적 경험에 대한 기준이 그만큼 낮았다는 반증이다. 저렴한 급식만 먹다 고급스러운 미각을 가질 기회를 잃어버린 꼴이다. 삶의 해상도를 높이고 더 까다로운 감각을 지녀야 한다.

△김 = 교육 시스템을 거론할 수밖에 없다. 최근 언어학자 놈 촘스키가 ‘대학에서 뭘 가르칠 것인가’의 문제와 관련해 본질적인 지점을 건드렸다. 촘스키는 챗GPT를 ‘하이테크 표절기’로 규정하며 “학문 분야에서 표절이 매우 쉬워질 것”이라고 우려했는데, 세계적 석학이 글쓰기 과정의 중요성에 대한 언급 없이 ‘표절 걱정’만 늘어놓아 실망스러웠다. AI 기술이 어디까지 발전하든 언어 활동이 사고의 근간을 이룬다는 점은 변함이 없다. 종합적 사고역량을 훈련하는 글쓰기가 새삼 강조돼야 할 시점이다.

△오 = 학생들에게 리포트를 작성할 때 ‘챗GPT를 활용하되 첫 문단은 반드시 자신의 경험에서 시작하라’고 주문한다. 유일무이한 경험을 복기하면서 삶의 해상도를 높여 보라는 취지인데, 학생들이 매우 어려워한다. ‘모범 답안’만 요구하는 교육 방식을 따라가느라 세계를 입체적으로 바라보는 데 소홀했던 것이다. 김 교수의 지적처럼 교육 시스템을 혁신하는 데 더 많은 정성을 쏟아야 한다. 정성 없이 ‘N분의 1’에 불과한 인간을 대량생산하는 교육 탓에 한국인은 세계 어느 민족보다 ‘기계적인 인간’으로 만들어졌다. 외국인들이 ‘정답’만 얘기하고, 자기 생각 없이 다른 사람 눈치를 살피는 한국인을 보며 ‘챗GPT 같다’고 생각해도 이상한 일이 아니다.△김 = 챗GPT가 등장하면서 많은 사람이 인간과 AI의 차이를 성찰하는 기회를 얻었다. 여러 우려가 나오지만, 이런 종류의 사건이 인류사를 통틀어 몇 번이나 있었는지 돌아보면 상당히 풍요로운 자극의 시대를 살고 있는 건 분명하다. 원래 인간은 ‘위협’을 느낄 때 비로소 ‘생각’을 시작한다. 이전에도 그랬듯 기술과 상호작용하면서 또 다른 존재로 변모해갈 것이다.