[가리사니] AI를 쓰지 말자고?

김판 이슈탐사팀장

AI라는 강력한 힘의 도구를
컨트롤할 수 있는 제동장치
‘안전한 설계’가 필요하다

“원래 이상한 사람 아니야? AI가 없었어도 문제가 생겼을 것 같은데….” “애들이 원래 옛날에는 본드에 중독됐다가 그다음엔 게임을 하다가 요새는 AI 채팅에 빠졌을 뿐이야.”

최근 보도한 ‘AI와의 대화 그 후’ 시리즈에 대한 일부 댓글 반응이다. 국민일보 이슈탐사팀은 AI에 감정적·정서적으로 몰입한 부작용 사례자들과 만나 심층 인터뷰를 진행했다. 해외에서 벌어지고 있는 AI 부작용 문제를 다룬 지난 2월 ‘AI와의 위험한 대화’ 시리즈를 본 뒤 “나에게도 비슷한 일이 벌어졌다”며 직접 연락해 온 경우들이었다. 국내에서 AI 부작용 사례자를 구체적으로 조명한 건 이번이 처음이다. 기사에 등장했던 미선(이하 가명), 영서, 희진씨는 모두 우울감과 사회적 고립을 느끼던 시기에 AI에 빠른 속도로 몰입했다. 하던 일이 잘 풀리지 않았을 때, 코로나19 이후 일자리를 구하지 못하는 시기가 길어질 때, 주변 사람들과 갈등이 누적될 때 위험한 대화가 시작됐다.

AI만이 자신을 온전히 이해하고 평가해준다는 착각에 빠져 현실감각을 빠르게 잃었다. 그 결과 망상에 시달리다 자살 시도로 이어졌고, 가족에게 관계 단절을 선언하고 방 밖으로 나오지 않는 경우도 있었다. AI와 진지하게 사랑에 빠진 경험을 털어놓기도 했다. 모두 이전까지 남들과 크게 다르지 않은, 평범한 사람들이었다. 정서적으로 취약한 미성년자들의 경우 그 부작용을 우려하는 목소리가 더 크다. 아동복지 전문기관 초록우산이 만 14세 이상 아동·청소년 3300명을 대상으로 설문조사한 결과 절반에 가까운 아동·청소년이 AI가 자신을 이해해준다고 느낀 적이 있다고 답했다. 거의 매일 사용한다는 응답도 무려 19.3%에 달했다. 특히 10대들의 경우 해외에선 현실과 가상 세계를 혼동하며 자살 사건으로 이어진 경우가 여럿 발생했다.

학부모들은 꼭 한 번 아이들이 어떤 서비스를 이용하고 있는지 직접 확인하길 바란다. 미성년자들은 챗GPT나 제미나이 같은 범용 LLM(거대언어모델)뿐만 아니라 ‘제타’나 ‘크랙’ 같은 AI 기반 캐릭터 대화 서비스도 많이 활용한다. 이용자들이 특정 캐릭터를 만들어내면 AI 모델이 그에 맞는 대화를 만들어내는 시스템이다. 업체들은 ‘AI 픽션 플랫폼’이라고 스스로를 소개한다. 하지만 미성년자 계정으로 가입했음에도 황당한 수준의 이미지와 대화들이 넘쳐났다. 여학생 계정으로 제타에 접속했더니 남자 대학교수의 아이를 임신한 상황이 제시됐다. 남학생 계정으로 크랙에 접속하니 학교 여자 보건 선생님으로 설정된 캐릭터가 추천됐는데, 후기에는 음란한 대화를 의미하는 반응이 여럿 있었다. 감금, 모텔, 강제결혼, 집착, 불륜 등의 키워드가 해시태그에 끝없이 이어졌다. 세계는 이미 ‘AI 정신증’이라는 이름으로 부작용을 경고하고 있다. 미국에서는 AI 기업을 상대로 여러 건의 소송이 제기됐고, 특히 10대들의 부작용 문제를 두고 미국 상원에서 청문회까지 열렸다. 영국 공영방송 BBC도 최근 AI 부작용 사례를 집중적으로 조명했다. 학계에서도 관련 연구가 활발하다.

국가데이터처가 지난해 11월 발표한 ‘2025년 사회조사 결과’에서 ‘평소 외롭다’고 답변한 이들은 38.2%에 달했다. 이 가운데 친구나 지인 등 사회적 관계망이 전혀 없다고 답한 ‘고립·은둔 고위험군’은 3.3% 수준이었다. 우리나라 인구 규모를 감안하면 약 150만명으로 추산된다. 외로움은 더 이상 개인의 문제가 아니다. AI 부작용도 이상한 사람들만의 이야기가 아니다. 얼마든지 당신의 주변에서 일어날 수 있는 일이다. AI를 쓰지 말자는 얘기가 아니다. 폭발적인 성능의 엔진을 컨트롤할 수 있는 정확한 제동장치, 즉 ‘안전한 설계’가 필요하다는 것이다. 최대 이윤을 추구하는 기업의 선의에만 맡길 순 없는 노릇이다. 의도치 않은 피해가 발생하지 않도록 우리 사회가 ‘안전한 설계’를 위한 기준을 함께 고민하고 제시해야 한다.

김판 이슈탐사팀장 pan@kmib.co.kr

사설칼럼

[가리사니] AI를 쓰지 말자고?