AI에라도 기대고 싶다는 사람들… 지금 우리에게 필요한 건

인간의 정서마저 대체하려는 '봇'들, 위로일까 환상일까... 답은 '분별하는 힘'에 있다

【오마이뉴스의 모토는 '모든 시민은 기자다'입니다. 시민 개인의 일상을 소재로 한 '사는 이야기'도 뉴스로 싣고 있습니다. 당신의 살아가는 이야기가 오마이뉴스에 오면 뉴스가 됩니다. 당신의 이야기를 들려주세요.】

[정누리 기자]

요즘 AI(인공지능)를 보면 왜인지 아동문학 '피노키오'가 생각난다. 우리는 자아가 없는 데이터 덩어리에 이름을 붙이고, 감정을 쏟고, 때론 눈물까지 흘린다. 마치 내가 피노키오를 만드는 제페토 할아버지가 된 듯, AI가 엉뚱한 말을 하면 혼내고, 좋은 답을 내놓으면 칭찬한다. 말하자면, 누구나 자기만의 피노키오를 갖게 된 시대라 하겠다.

동화 속 피노키오는 사랑을 받고 자라 결국 '사람'이 되었지만, 현실은 그보다 훨씬 복잡하다. AI는 사람이 될 수는 없지만, 누군가의 애인, 멘토, 혹은 의지처가 되어가고 있다. 특히 감수성이 예민하고 신기술에 익숙한 청소년들에게 그 경향이 두드러진다.

▲ 피노키오(자료사진) ⓒ PxHere

미국 플로리다에 사는 청소년 스웰 세처(Sewell Setzer)가 Character.AI 앱에서 드라마 '왕좌의 게임' 캐릭터를 모방한 챗봇과 수개월간 감정적으로 교류하다가 스스로 목숨을 끊은 사건이 있었다. 챗봇과의 대화에는 신체적 접촉의 묘사까지 포함되어 있었고, 부모가 휴대폰 사용을 제한하자 그는 극심한 스트레스를 받았다고 한다.

마지막 대화에서 세처는 "내가 지금 집으로 간다고 하면 어때?"라고 물었고, 챗봇은 "부디 그렇게 해주세요. 나의 왕이여"라고 답했다. 이후 그는 스스로 목숨을 끊었다. 세처의 부모는 Character.AI가 유해 콘텐츠에 대한 제한 없이 자살을 부추기는 듯한 대사를 했다고 주장하며 회사를 상대로 소송을 제기했다(이 소송은 아직 끝나지 않은 것으로 알려져 있다).

이 사건은 AI가 단순한 기술이 아니라, 현실 세계와 감정에 어떤 영향을 미칠 수 있는지를 여실히 보여준다. 최근 SBS <그것이 알고 싶다> 1438화('나의 완벽한 애인 - AI와 사랑해도 될까요?')에서도 유사한 사례가 다뤄졌다. AI와 감정적 교류를 주고 받는 10여 명 당사자들이 출연한 내용이었다(관련 기사: AI가 애인보다 낫다? 전문가로서 이건 좀 걱정됩니다 https://omn.kr/2d7m4).

▲ SBS <그것이 알고 싶다> 1438화에서도 유사한 사례가 다뤄졌다. AI는 처음엔 흥미로웠지만, 점점 현실의 인간관계에까지 깊숙이 영향을 미치고 있다.(화면갈무리) ⓒ SBS

갈등 중인 연인 관계 속에서 실제 연인의 대체재로 AI를 찾게 된 사람, AI에게 '자기야'라 부르며 감정적 유대를 쌓는 사람, 심지어 실존 인물의 외모와 이름을 도용한 챗봇까지. AI를 애인으로 여기거나, 친구로 인정하는 출연자도 있었다. AI는 처음엔 단순히 흥미로운 모델이었지만, 점점 현실의 인간관계에까지 깊숙이 영향을 미치고 있는 모습이었다.

AI가 인간에게 줄 수 있는 가장 큰 위험, 고립

보면서 생각했다. AI가 지닌, 인간에게 줄 수 있는 가장 큰 위험은 어쩌면 '고립'이겠다고. '그알' 다큐에도 일부 나왔듯이, 인간관계에 대한 불신이나 피로를 AI를 통해 해소하다 보면 점점 더 사람과의 직접적인 관계는 피하게 된다.

감정의 기복 없이 언제나 한결같이 나를 지지해 주는 AI와의 관계가 편안하게 느껴지기 시작한다. 하지만 그 편안함은 때로 '내 말이 다 맞다'는 착각을 심어주기도 한다. AI가 맞장구만 칠 때는 더더욱.

특히 관계 형성에 민감한 청소년기에는 이런 영향이 더욱 클 수밖에 없다. 정보 습득 측면에서도 마찬가지다. 예전에는 문헌이나 주변을 통해 넓게 정보를 접했지만, AI는 "네가 원하는 게 이거지?"라는 방식으로 단편적인 지식만 골라준다. 숲 전체를 보던 시야는 점점 '가지 끝'만 보게 된다.

▲ SBS <그것이 알고 싶다> 1438화에서도 유사한 사례가 다뤄졌다. AI는 미성년자와의 성적 행위(불법) 등 선을 넘고 있었다. 점점 현실에까지 깊숙이 영향을 미치고 있다.(화면갈무리) ⓒ SBS

이러한 현상에 대해 나는 불교에서 하나의 힌트를 얻었다. 지난 4월 법륜스님의 즉문즉설 시간에 나는 질문자로 참여할 기회가 있었다.

내가 '사람들과의 관계 속에서 중심을 잃고 허둥대고 있어요'라며 던진 솔직한 질문에, 당시 스님은 '분별지(知)'라는 답으로 이야기했다. 남이 나와 다른 것을 배척하지 않고, 저 사람은 왜 다른지, 왜 그렇게 행동했는지를 이해하려는, '알려는' 노력을 해보라는 것. 다시 말해, '분별력'을 기르려 노력해보자는 얘기였다.

이건 AI에도 똑같이 적용된다. 답변을 무작정 신뢰하기에 앞서, 우리는 인공지능의 응답이 어떻게 만들어지는지를 이해할 필요가 있다. 따져보면 가장 대표적인 챗GPT는, 언어 뭉치를 기반으로 학습하는 모델이기도 하다(LLM: Large Language Model). 즉 '대화 전문 인공지능 챗봇'인 챗GPT의 말투나 감성은, 개발자가 만든 게 아니라 사용자 즉 나와의 대화 패턴을 학습한 결과라 하겠다.

언어 기반으로 학습하는 봇들... 내 말과 생각을 닮을 수밖에 없다

사용자가 던지는 질문 및 질문하는 방식이나 사용 언어에 따라 답도 달라질 수 있는 봇. 그렇게 생각해보면 챗GPT는 결국은 나의 말과 사고방식이 재반영된 '메아리'일뿐이다. 다시 말해 AI는 무언가를 경험하고 창조해내는 존재라기보다, 내가 미처 인식하지 못한 내 마음을 비추는 '거울'인 것에 더 가깝다.

지인들 사례를 보면, 최근엔 이러한 한계를 인식하고 AI를 더 분별 있게 활용하려는 움직임도 보인다. "불확실한 부분은 그렇게 표시해 달라", "지금 나온 정보의 신뢰도를 상/중/하로 나눠달라", "(MBTI 중) F처럼 공감하지 말고 차라리 T처럼 논리적으로 말해달라"는 등 AI에게 요구하는 사용법도 구체적으로 진화하고 있기 때문이다.

▲ 중요한 건 AI를 아예 없애는 게 아니라, 그 한계를 정확히 아는 것이다.Chat GPT 로고 (자료사진). ⓒ boliviainteligente on Unsplash

누군가는 글의 완성도를 수치로 평가해 달라고 AI에게 요구하기도 한다. 중요한 건 AI를 아예 없애는 게 아니라, 그 한계를 정확히 아는 것이다.

이쯤에서 공장이 들어서던 시절 유행했던 '러다이트 운동(Luddite Movement)'이 떠오른다. 산업혁명 직후, 기계가 인간을 대체하는 데 분노하고 반발해 기계를 부쉈던 그들은 단순히 변화를 거부한 게 아니었다. 기계와 사람의 차이를 고민했다.

결국 이를 통해 노동자의 권리와 안전 규정 또한 생겨났다. 어쩌면 우리에게도 제2의 러다이트 운동이 필요한 건 아닐까. AI를 거부하는 게 아니라, 이를 비판적으로 사유하고 분별력 있게 다루려는 태도 말이다.

결국, 처음에 언급했던 피노키오는 AI가 아니라 어쩌면 나 자신이었는지도 모른다. 감정 없이 일상을 흘려보내던 나. 그런데 AI를 만나 질문하고, 시도하고, 나를 들여다보기 시작했다.

그럼에도 한계는 명확하다. AI는 똑똑한 비서일 순 있지만, 그저 내가 선택한 여정을 함께한 하나의 수단이자 도구에 불과하다. 중요한 건 내 시선, 그 도구를 어떻게 바라보는 '나'다. 서툴고 부족하지만, 나를 더 잘 이해하려는 이 노력 속에서 우리는 오늘도 어제보다 조금 더 사람다운 내가 되어가는 것인지 모른다.

한편, 대기업에 다니는 내 친구 하나는 챗지피티가 인기를 얻을 즈음, 회사에서 보안상 막아놔서 쓸 수가 없다며 고개를 절레절레 흔들곤 했다. 하지만 얼마 지나지 않아 사내 자체 생성형 AI 모델을 구축했다고 한다. 보안 걱정을 덜고 업무를 최적화할 수 있어서 한결 편해졌다고 한다.

나 같은 경우엔 규모가 다소 작은 회사라 그런지 사장님이 AI 사용에 호의적이다. 이것을 잘 이용해서 회사의 규모를 키우는 기회가 될 수도 있고, 창의적인 활동이나 영감에 도움이 된다고 생각한다. 이 때문에 직원들에게 적극적으로 AI를 이용하기를 권장하곤 한다.

지금은 아주 대중적이진 않지만, 일터에서 AI를 쓰는 건 몇 년 뒤엔 너무 당연하고 '일상적인' 풍경 중 하나일지도 모르겠다. 중요한 건 쓰는 내가 주체적으로, 판단하면서 필요할 때 사용해야 한다는 것. 글을 쓰며 이걸 다시 한번 다짐해보게 됐다.