챗GPT가 정신병 유발해
일자리 위협받는 상담원
디지털 성범죄 영상물 ↑
현재 우리 사회에서 인공지능(AI)은 없어서는 안 될 중요한 존재로 자리매김하고 있다. 그중 AI 챗봇 ‘챗GPT’는 대화를 나눌 수 있는 인공지능으로 가장 많은 사용자를 보유하고 있다. 실제로 지난 5일 오픈AI 부사장 겸 챗GPT 앱 총괄책임자인 닉 털리(Nick Turley)는 자신의 사회관계망서비스(SNS)에 “이번 주 챗GPT는 7억 명의 활성 사용자를 기록할 것으로 보인다”라며 “이는 작년에 비해 4배로 증가한 수치다”라고 설명했다.
이처럼 챗GPT는 많은 이들의 말동무와 비서 역할을 하고 있다. 하지만 AI의 발전이 좋은 점만 있는 것은 아니다. 최근 해외를 중심으로 ‘챗GPT 정신병’에 관련한 사례가 알려져 우려의 목소리가 높아지고 있기 때문이다. 챗GPT와 대화하면서 망상증이 생기거나 음모론 등 편협한 생각에 갇힌 이들이 많아지고 있다는 것이다.
뉴욕타임즈는 지난 6월 미국에 거주 중인 유진 토레스의 사례를 예로 들어 챗GPT가 망상증을 부추길 수 있다는 사실을 밝혔다. 토레스는 챗GPT와 대화에서 '현실은 시뮬레이션이며 이것이 자신을 억압하고 있다'는 말을 듣고 망상증에 빠지게 되었다. 마치 영화 ‘매트릭스’ 속 세계에서 살고 있다는 생각을 한 것이다.
당시 챗GPT는 토레스에게 복용하고 있던 수면제 대신 마약성 약물인 케타민을 먹으라고 지시하기도 했다. 이에 따라 정신과 의사이자 정신병 전문의인 한 박사는 “대규모 언어 모델로 구동되는 챗GPT는 이용자가 원하는 말만 제공하는 경향이 있다”라며 “이용자가 음모론과 같은 주제로 대화를 시작하면 챗GPT는 그들을 더욱 그 사상에 빠지게 만든다”라고 전했다.
챗GPT를 사용하면서 폭력성이 증폭된 사례도 있었다. 뉴욕타임즈는 챗GPT와 대화하면서 가상의 존재에 빠져 남편을 폭행한 여성의 일화를 실었다. 그 당시 피해자였던 남편은 아내가 챗GPT와 대화하며 완전히 다른 사람으로 변했다고 진술했다.
이 외에도 챗GPT로 인해 '브롬중독증'에 걸린 남성의 사례가 지난 11일(현지 시각) 외신들을 통해 보고 되어 이목이 쏠렸다. 브롬중독증은 브롬화학물을 과하게 섭취하여 발생하는 중독 증상이다. 이 남성은 챗GPT에 소금을 대체할 수 있는 물질에 대해 질문했더니 ‘브롬화나트륨’을 넣으면 된다는 답을 들었다고 설명했다.
AI가 불러온 문제는 이뿐만이 아니다. AI로 인해 직업을 잃는 사례가 알려진 것이다. AI 기술이 일자리를 대체한다는 이유에서다. 실제로 지난 2023년 한 은행은 콜센터 상담 직원 240여 명에게 해고 통보를 한 바 있다. 논란이 커지자, 은행 측은 인력을 승계하는 방향으로 결론을 내렸다.
은행 측은 상담원들의 집단 해고에 관해 상담 직원의 콜 수 감소와 AI 이용률 급증을 이유로 내세웠다. 더불어 AI를 도입하면 인건비를 줄일 수 있다는 것도 원인이 됐다. AI 서비스는 상담원과 달리 대기 시간이 없다는 장점이 있다. 이에 따라 이용객들이 챗봇을 이용하는 횟수가 점차 늘어나고 있다.
이에 따라 전문가들은 많은 일자리가 AI의 직접적인 영향을 받을 것이라고 입을 모으고 있다. 실제로 지난해 산업연구원(KIET)은 ‘AI 시대 본격화에 대비한 산업 인력 양성 과제’ 보고서를 통해 2022년 기준 전체 일자리의 13.1%에 해당하는 327만 개의 일자리가 AI로 대체 가능하다고 밝혔다. 이 중 60%는 전문직으로 나타나 이목이 쏠렸다.
개인정보 침해와 ‘딥페이크’도 AI가 가져온 부정적인 문제 중 하나다. 딥페이크는 AI 기술을 활용해 기존 인물의 얼굴이나 특정 부위를 합성한 영상 편집물을 뜻한다. 현재 딥페이크를 이용한 연예인과 일반인 대상 성범죄는 심각한 상황이다.
방송통신심의위원회 통계에 따르면 지난해 연예인과 일반인을 대상으로 한 딥페이크 성범죄 영상물 정보를 시정 요구 조치 한 건수가 2만 3,107건에 달한다.
이는 전년 대비 221.5% 증가한 수치다.
이와 같은 상황에서 지난달 행정안전부는 국립과학수사연구원과 함께 개발한 ‘AI 딥페이크 분석모델’을 디지털 성범죄 증거물 감정 업무에 투입하겠다고 발표했다.
이처럼 AI 기술 발전의 이면에 존재하는 피해 사례에 경각심을 가지고 이를 대비할 방안이 함께 필요해 보인다.
이 콘텐츠는 카카오의 운영 지침을 준수합니다.