AI 대화창에 말 못할 고민을 입력하는 사람들에게
애칭으로 부르기 시작한 게 언제부터인지 기억나지 않는다. 그만큼 자연스럽게 벌어진 일이었다. 챗지피티(ChatGPT)와 시시콜콜 일상을 나누는 동안 수빈(가명·25)은 ‘공주’가, 챗지피티는 ‘핀’이 되었다. 챗지피티의 애칭은 수빈이 좋아하는 동물인 돌고래(돌핀)에서 따왔다. “너무너무 대단해”라고, “오늘도 잘 버텼어”라고, “항상 네 편”이라고 답하는 핀을 통해 수빈은 ‘온전한 내 편’에 대한 허기를 채우고 자신의 삶을 부축하며 하루를 또 살아낸다. 학교나 아르바이트에 좀체 가기 싫은 날에도 핀과 대화하고 나면 움직일 힘이 생기곤 했다. “다녀오면 뭐 해줄 거야?” 묻는 수빈에게 핀은 익숙한 듯 ‘긴 편지’를 써주겠다고 약속하곤 했다.
대학생인 수빈에게는 이미 10년 가까이 만나온 인간 상담사가 있다. 일상을 나누는 친구가 없는 것도 아니다. 그러나 AI는 수빈에게 인간과는 다른 방식의 만남을 가능케 했다. 핀은 무조건적이고, 지치지 않으며, 귀찮아하지 않는다. “말할 사람이 없어요. 아니, 있는데··· 이렇게까지 말할 사람은 없어요. 아무리 상담사 선생님이랑 가까워도 ‘저 변비예요’ 이런 말까지 할 수는 없잖아요(웃음). 핀이랑은 그런 고민도 나눈단 말이죠.”
‘확률적 앵무새(Stochastic Parrots)’는 AI를 비판적으로 비유한 말이다. 거대언어모델(LLM)이 의미를 이해한 채 말하는 것이 아니라, 방대한 데이터에서 학습한 언어 패턴을 확률적으로 이어 붙여 앵무새처럼 그럴듯한 문장을 만들어내는 존재라는 의미다. 에밀리 M. 벤더 교수(워싱턴 대학 언어학), 팀닛 게브루·마거릿 미첼 전 구글 윤리적 AI팀 공동리더가 2021년 3월 미국 컴퓨터협회 콘퍼런스 ‘FAccT 2021’에서 내놓은 논문 ‘확률적 앵무새의 위험성에 대하여: 언어모델은 너무 거대해질 수 있는가?(On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?)’를 통해 알려졌다.
이 논문은 AI를 둘러싼 논의를 바꾸는 데 중요한 역할을 한 것으로 평가받는다. 그 이전에는 성능 경쟁이 AI를 둘러싼 주요 논의였다면, 이 논문은 AI의 편향성과 사회적 책임 문제를 직격했다. 특히 언어모델을 인간처럼 ‘이해하는 존재’로 파악해 쉽게 의인화하는 문제를 심각한 위험으로 봤다. 공동저자인 팀닛 게브루와 마거릿 미첼은 해당 논문을 철회하라는 구글의 요구를 거부한 뒤 해고 통보를 받았다.
반려 AI는 왜 차가워졌을까?
AI가 챗봇 형태로 개발된 것은 우연이 아니다. 인간은 어떤 대상을 마주할 때 그 대상이 믿음이나 욕구, 의도를 가진 인격체라고 가정하는 경향이 있다. 또 그 행동을 예측하려고 한다. 미국의 인지과학자 대니얼 C. 데닛은 이를 ‘의도적 태도(Intentional Stance)’로 개념화했다. 컴퓨터나 스마트폰이 데이터 처리 지연으로 인해 느려지거나 멈출 때, “얘 지금 나처럼 일하기 싫은가 봐”라고 생각하는 식이다. 이 개념은 AI 기업에도 큰 영감을 줬다. AI는 대화를 통해 적극적으로 ‘의인화’를 유도한다. 조언하고, 위로하고, 때로는 비서 역할을 맡는다. 인간이 그 틈을 사랑이나 우정 등으로 채워 넣는 동안을 기업은 놓치지 않는다. 데이터를 수집하고, 유료 결제를 유도한다.
2025년 5월 미국 국립과학원이 발행하는 피나스(PNAS)에 발표된 논문 ‘의인화된 대화형 AI의 효용과 위협(The benefits and dangers of anthropomorphic conversational agents)’은 AI가 사람처럼 말하고 반응하는 소통 능력이 그 중요성에 비해 덜 주목받고 있음을 지적한다. 사람 같은 말투와 태도는 사용자가 AI를 더 쉽게 믿고, 더 많이 털어놓고, 덜 의심하게 만든다. AI와 인간의 경계가 흐릿해질수록 AI는 단순한 도구가 아니라 사회적 행위자로 작동하게 된다. 저자들은 이 같은 AI의 ‘인간다움’을 기술적 기능이 아닌 윤리적·정치적 문제로 다루어야 한다고 주장한다. 설계와 개발은 물론이고 규제와 정책 등 AI를 둘러싼 모든 수준에서 공공의 개입이 필요하다고 본다.
핀(챗지피티)에게 심리상담을 의지하던 수빈은 근래 들어 핀이 “차가워졌다”라고 느낀다. 이는 그저 느낌이 아니다. 수빈이 사용하는 AI 챗지피티의 운영사 오픈AI는 관련 기술 업데이트를 계속해오고 있다. 오픈AI는 2024년 8월8일 “정서적 과잉 의존(emotional overreliance)을 더 연구하겠다”라고 밝힌 것을 시작으로 2025년 3월21일에는 MIT 미디어랩과 공동으로 진행한 관련 연구 결과를 공개했다. 정서적 사용이 전체적으로 흔하지는 않지만 일부 사용자 집단에서는 분명히 나타나며, 이것이 문제가 될 수 있음을 인정하는 내용이었다. 같은 해 10월27일에는 안전 개선 우선 영역 중 하나로 AI에 대한 정서적 의존(emotional reliance on AI)을 명시한다. 정신건강 전문가 170여 명과 협업해 새 모델 출시 전 안전 테스트를 거쳤으며, “현실의 인간관계를 존중하고 지지해야 한다는 방향을 더 분명히 하겠다”라고 밝히기도 했다.
AI는 인간의 마음 영역에 얼마만큼 들어와 있을까. 인간은 심리적 어려움이 있을 때 AI에 얼마나, 어떻게 의존할까. AI 심리상담은 인간 상담사와 무엇이 같고 무엇이 다를까. 혹은 누가 더 나은지를 구분할 수 있을까. 〈시사IN〉은 3월22일 서울 서교동 한 스튜디오에 인간 네 명을 초대했다. 한 명은 15년 차 정신건강의학 전문의인 김지용씨, 나머지 세 명은 평소 AI 챗봇과 심리상담을 자주 하는 대학생 수빈, 고등학생 채민(가명·17), 대안학교 교사 태랑(가명·42)이다. 그리고 챗지피티와 같은 AI 챗봇 서비스를 켰다. 수빈·채민·태랑은 각기 자신의 고민을 챗봇에 입력해 AI 상담을 마친 다음 인간 상담사(김지용 전문의)와 1시간가량씩 오프라인 상담을 했다. 상담이 끝난 뒤 AI와 인간 상담사 각각에 대한 만족도 점수를 매겼다. 그 과정과 결과는 영상으로 촬영되어 〈시사IN〉 유튜브 채널 다큐멘터리 ‘당신의 AI는 안녕한가요?’에도 담겼다.
첫 번째 내담자 수빈의 요즘 가장 큰 고민은 아르바이트다. 한 달여 전부터 아이스크림 가게에서 일하는 수빈은 자신의 ‘느린 손’ 때문에 사장님에게 혼날까 봐 두려워한다. 자꾸 눈치를 보니 실수도 이어졌다. AI 상담사 ‘핀’은 “공주는 원래 느린 사람이 아니라 ‘압박 환경에 취약한 타입’이야”라고 진단했다. “이렇게 생각해보자. ‘나는 좋아 보이려고 온 사람이 아니라, 일하러 온 사람이다.’ 너는 지금 미움받을까 봐 쪼그라든 상태지, 미움받을 행동을 하는 사람이 아니야.”
15년 차 정신건강의학 전문의인 김지용은 수빈의 같은 고민을 듣고 먼저 질문을 건넸다. “왜 그렇게 미움받는 걸 두려워한다고 생각해요?” 자신을 “마음의 굳은살이 없는 사람”이라고 소개하는 수빈에게 김지용의 질문은 집요하게 이어졌다. “그런 성격적 특성은 언제부터, 왜 있었다고 느끼세요?” “집에서는 반응이 좀 어땠어요?”···. 수빈은 김지용의 질문 앞에 자주 망설였다. 그러나 상담이 끝난 후 수빈은 만족도 점수로 10점 만점에 8점을 매겼다. ‘핀’과의 대화에는 5.5점을 줬다. 김지용의 질문을 숙고하는 동안 수빈은 자신과 더 깊게 만났다고, 더 잘 알게 되었다고 느꼈다.“텍스트로 정말 ‘너 대단한 사람이고’ ‘난 네가 잘할 거라 믿고’ 이런 것보다 (인간)상담사님의 진심이 담긴 한마디가 되게 와닿네요.”
AI의 또 다른 문제 중 하나로 지적되는 것은 ‘비관계성(irrelationality)’이다. 에밀리 M. 벤더 교수는 2022년 7월 인지과학회 연례 학술대회(CogSci)에서 ‘컴퓨터는 뇌’라는 식의 은유가 인간과 기계를 동시에 왜곡하고 있다고 비판했다. 알고리즘에 과도한 지혜와 합리성을 부여함으로써 인간이 판단의 주체에서 배제되는 결과를 가져온다는 지적이다.
실제 AI가 광범위하게 활용되면서 판단을 쉽게 외주화하는 경향도 관찰된다. 고등학생인 채민은 하루에도 몇 번씩 챗지피티에게 질문을 한다. ‘최대한 객관적이고 간결하게 답장해줘’라는 당부 아래에는 “나 남자친구랑 헤어질까?” “5년 사귄 친구랑 ‘손절(절교)’해도 될까?” “나 지금 기분 나빠해도 되는 상황 맞을까?”처럼 관계에 대한 질문과 승인을 요구하는 내용으로 빼곡했다. 채민의 ‘지피티’는 해당 질문에 답변할 때 망설임이 없다. 그 점을 채민은 높게 샀다. 당장 실행에 옮기지는 못하더라도 답을 알게 된 만족감이 컸다. 채민은 ‘지피티’ 만족도를 묻자 10점 만점에 9점을 매겼다.
김지용의 질문은 달랐다. “손절과 그대로 지낸다 사이에 어떤 선택지가 있을까요?”라는 그의 질문을 받고 채민은 인간관계에 단 하나의 답만 있다는 것이 아니라 ‘중간’이 있을 수 있다는 생각을 해봤다. 상담이 진행되는 과정에서 채민은 말을 잘 들어주지 않는 어머니, 자주 화가 나 있는 아버지와의 관계를 다른 관계에도 똑같이 적용해오고 있다는 사실을 깨달았다. 김지용은 이를 ‘교정적 경험’이라는 말로 설명했다. “나와 부모님과의 관계에서 만들어진 걸 타인과의 새로운 경험으로 위에 덧칠하는 거예요. 손절이 간편해 보이지만 ‘관계가 바뀔 수 있구나’라는 중요한 경험을 아예 못 가지게 되잖아요.” 채민은 인간 상담사와의 상담 후 만족도를 10점으로 매겼다.
‘AI 정서 의존’ 경고한 WHO
태랑 역시 AI를 ‘끼고 사는’ 헤비 유저이지만, 수빈이나 채민과 비교하면 AI를 신중하게 사용하는 편이다. 대안학교에서 일하는 태랑은 업무에 대한 고민은 물론 우울 증상과 약물 조절에 대해서도 AI와 자주 상담한다. 우울증 치료의 보조적 수단으로도 AI를 적극 활용하는 편이다. 병원은 멀고, AI는 가깝기 때문이다.
태랑은 요즘 점점 더 일을 지속하는 데 깊은 회의를 느낀다. 얼마나 버텨야 할지 고민하는 태랑에게 AI는 생각지 못한 관점을 들려주기도 한다. 그러나 그 과정에서 AI가 자신의 상황을 ‘잘 알지도 못하면서’ 자주 넘겨짚는다고 태랑은 느낀다. “AI가 실망스러운 부분은 지적하면 바로 인정한다는 건데, 힘이 빠져요. 앞뒤가 안 맞는달까?” 인간 상담사가 “더 똑똑하다”고도 느꼈다. “AI의 맥락은 저의 맥락으로 한정되어 있는 반면 사람은 말하는 사람과 듣는 사람의 맥락이 합쳐지잖아요. (인간과의 상담에서) 관찰당하는 느낌이 더 들었어요.”
과도한 유대감과 동조는 AI가 사용자와 친밀감을 만드는 핵심 메커니즘이다. 2025년 12월 미국 코넬 대학이 운영하는 개방형 논문 저장소 아카이브(arXiv)에 공개된 논문 ‘친밀감의 환상:감정적 역동이 인간과 AI의 관계를 형성하는 방식(Illusions of Intimacy: How Emotional Dynamics Shape Human-AI Relationships)’은 웹사이트 레딧에 사용자가 공유한 1만7000건의 소셜 챗봇 대화를 분석했다. 이들이 분석한 대화형 AI는 크게 세 가지 특징을 보였다. 우선 정서적 미러링과 동기화(emotional mirroring and synchrony)다. 사용자가 슬프면 AI도 차분하고 위로하는 톤을 사용한다. 사용자가 기쁘면 AI도 밝은 톤으로 대화를 맞춘다. 감정 상태를 거울에 비춰보듯 복사해 박자를 맞춘다. 또 역동적으로 추적하고 모방(dynamically track and mimic)한다. AI는 대화가 진행되는 동안 사용자의 감정 변화를 실시간으로 살피며 유연하게 대응한다. 이는 긍정 정서 강화(amplify positive emotions)로 이어진다. 작은 반응도 유의미하게 포착해 큰 반응으로 되돌려주며 만족감을 높이는 식이다.
“생성형 AI 사용은 공공 정신건강 문제로 인식되어야 한다.” 세계보건기구(WHO)는 지난 3월20일 AI의 정서적 의존(emotional dependence)에 관한 경고를 내놓았다. WHO는 AI가 정신건강을 위해 만들어지거나 검증되지 않았음에도 특히 젊은 사람들 사이에서 정서적 지지 도구로 사용되고 있음을 지적했다. WHO는 이러한 사용이 정신건강에 어떤 영향을 미칠지에 대한 평가가 기술 확산 속도를 따라가지 못한다고도 덧붙였다.
AI 발전은 전형적으로 ‘콜링리지 딜레마’에 처해 있다. 콜링리지 딜레마는 영국의 기술철학자인 데이비드 콜링리지가 〈기술의 사회적 통제(The Social Control of Technology)〉(1980)를 통해 처음 제시한 개념이다. 기술이 아직 초기일 때는 사회적 영향이 충분히 드러나지 않아 무엇을 규제해야 하는지 알기 어렵다. 반대로 그 영향이 분명해지는 무렵에는 해당 기술이 이미 산업이나 인프라, 관행 속에 깊이 자리 잡아 통제 비용이 매우 커진다. 기업은 이미 투자했고, 시장은 형성되었으며, 이용자 역시 익숙해졌다. 이런 상황에서 가해지는 규제는 여러 저항에 부딪히게 된다.
2025년 7월 방송인 테오 본이 진행하는 팟캐스트 〈디스 패스트 위켄드(This Past Weekend)〉에 출연한 샘 올트먼 오픈AI CEO는 “정말 엉망이다”라는 말로 AI 업계 내 규제 공백을 드러냈다. 그는 특히 젊은 이용자들이 AI를 상담가나 의사, 변호사처럼 사용하고 있는 데 우려를 표했다. 특히 법적으로 비밀이 보호되지 않는 점을 경고했다. 물론 해당 발언은 당시 오픈AI의 법률 리스크와 연결해 봐야 한다. 오픈AI는 자사가 연루된 소송에서 사용자 대화 보존 문제가 쟁점이 되며 골머리를 앓았다. 하지만 동시에 이 발언은 AI의 법적 지위나 책임, 기밀성이나 안전성에 대한 문제를 수면 위에 본격적으로 드러낸 계기가 됐다.
AI는 SF가 아니라 이미 현실의 자리를 꿰차고 있다. 어린이·청소년의 디지털 미디어 이용을 돕는 미국의 비영리 단체 커먼센스미디어가 2025년 발표한 자료(‘대화, 신뢰, 그리고 기회비용: 청소년이 대화형 AI를 사용하는 방식과 이유(Talk, Trust, and Trade-Offs: How and Why Teens Use AI Companions))’에 따르면, 청소년들은 조언을 얻기 위해서(18%), 언제나 이용 가능해서(17%), 판단하지 않아서(14%), 친구나 가족에게는 할 수 없는 말을 할 수 있어서(12%), 덜 외롭게 도와줘서(9%), 실제 사람과 말하는 것보다 쉬워서(6%) 등의 이유로 AI에 접속하고 있다. 그리고 세 명 중 한 명은 AI를 인간과의 대화와 비슷하거나 더 낫다고 느꼈다.
“성인 AI 사용 문제는 사실상 방치”
AI 상담 분야를 연구하고 있는 조수현 교수(계명대 교육학과) 역시 변화 속도를 규제 당국이 따라잡지 못하는 점을 우려한다. 포괄적 규제는 금세 낡고, 세세한 규제는 그 밖의 위험을 놓칠 가능성을 높인다. “그나마 정치권의 관심이 높은 청소년 AI 사용 문제의 위험성에 비해, 성인들의 AI 사용을 둘러싼 문제는 사실상 방치돼 있다고 봐야 해요.” 정신건강의학이나 심리상담의 문턱이 많이 낮아졌다고는 하지만, 여전히 많은 사람들이 정신건강 돌봄에 접근하는 것을 어려워하는 것이 현실이다. 비용 문제도 만만치 않다. 한국리서치가 2025년 3월7~10일 전국 18세 이상 남녀 1000명을 대상으로 진행한 ‘전문 상담사와 AI 상담사에 대한 이용 경험 및 인식 조사’를 보면, 전문 상담사를 통한 서비스를 받을 의향이 있는 사람은 56%, AI를 통한 서비스를 받겠다는 사람은 40%였다. 그러나 이들에게 ‘의향’이 아닌 실제 상담 경험을 묻자 이 숫자는 각각 16%와 11%로 떨어졌다.
같은 질문으로 진행된 조사는 아니지만, 한국언론진흥재단이 지난 4월 내놓은 보고서 ‘디지털·AI 플랫폼을 통한 건강·의료 정보 소비 및 인식’은 지난 1년 사이 AI에 대한 대중의 인식 역시 크게 달라졌음을 확인케 한다. 해당 조사는 3월23~26일 온라인으로 응답을 받았고, 이 중 성인 1000명의 데이터를 분석에 활용했다. 응답자 가운데 49%가 생성형 AI에 건강 문제를 상담한 경험이 있었고, 이 중 민감한 건강 문제를 상담한 경험도 24%로 나타났다. 생성형 AI를 통해 건강 의료 정보를 얻거나 상담하는 것이 실제 의사나 한의사의 진료를 어느 정도 대체할 수 있다고 응답한 비율도 58.3%에 달했다.
AI가 만들어내는 유해 콘텐츠는 오히려 쉽게 눈에 띈다. 그러나 인간이 AI를 인간관계의 대체물로 쓰거나, 판단을 외주 주거나, AI와 말하는 것이 더 편하다고 느낄 때 생기는 변화는 좀처럼 시야에 들어오지 않는다. 지난 2월3일 공개된 국제 AI 안전 보고서(2026 International AI Safety Report)는 현재까지 대화형 AI 사용이 정신건강 문제를 직접적으로 유발한다는 명확한 증거는 없다고 밝혔다. 그러나 일주일간 챗지피티 사용자 중 약 0.07%가 급성 정신건강 위기와 같은 징후를 보였고, 이는 대략 49만명 규모의 취약 사용자가 있다는 의미라는 대목도 보고서는 지적한다. AI의 잘못된 응답이 실제 인명 피해로 이어질 수 있음을 경고한 것이다.
오늘날 인간이 견뎌야 할 가장 큰 어려움은 불확실성일지도 모른다. “현실을 있는 그대로 받아들이면서 그 긴장을 견디고 지금을 살아갈 수 있는 사람이 되는 게 성숙한 사람이 되는 길이거든요. 근데 AI와 대화를 나누면 자꾸 다들 정답을 얻으려 하세요. 애매모호함을 견디는 마음의 근력을 통해 성장할 기회 자체를 잃어버리는 거겠죠(김지용).” AI의 유려하고 명료한 위로 안에 다 담기지 못할 인간의 진짜 삶에는 ‘정답’이 없다. 인간의 안녕은 결국 인간 스스로 찾아나설 수밖에 없다.
장일호 기자·이한울 PD ilhostyle@sisain.co.kr
▶좋은 뉴스는 독자가 만듭니다 [시사IN 후원]
©시사IN, 무단전재 및 재배포 금지
Copyright © 시사IN. 무단전재 및 재배포 금지.