‘무조건 맞장구’ 심리상담 흉내… 남용 혹은 악용 ‘AI 부작용’

온라인상 ‘무료 프롬프트’ 공유
“내담자 상태 종합적 평가 못 해”
美서 챗GPT 대화후 극단선택도

/클립아트코리아

생성형 인공지능(AI)이 심리상담 대체 수단처럼 확산되면서 내담자 안전에 대한 우려가 커지고 있다. 과거에는 민간자격증 난립으로 비전문 상담(2022년 11월23일자 7면 보도 등)이 문제로 지목됐는데, 이제는 AI가 상담 영역을 파고들며 새로운 위험 요인으로 떠오른 상황이다. 검증되지 않은 대화가 내담자의 불안을 키우거나 부정적 사고를 강화할 수 있다는 점에서 대응 마련이 필요하단 지적이다.

7일 온라인상에는 ‘심리상담 프롬프트(명령어)’라며 명령어 입력만으로 상담을 받을 수 있다는 글들이 다수 올라와 있다. 우울감 등을 완화하기 위한 인지행동치료(CBT) 과정을 흉내 낸 문구도 등장했는데, 한 블로그에는 ‘아래 프롬프트를 쓰면 AI로 무료 CBT를 받을 수 있다’고 적어놨다. 이날 해당 문구를 토대로 챗GPT와 대화해보니 감정에 일방적으로 호응해주는 반응이 이어졌다.

표면적으로는 공감과 위로처럼 보였지만, 사용자의 부정적 감정을 반복 확인해주는 수준에 그쳤다. 임상심리 전문가인 박혜연 동덕여자대학교 교양학부 교수는 “AI 알고리즘은 내담자의 상태를 종합적으로 평가하거나 위험군을 식별해 적절한 지원 체계로 연결하지 못한다”며 “심리상담은 단순한 맞장구가 아니라 임상적 판단과 개입이 동반되는 전문 행위라 AI가 대체하기 어렵다”고 짚었다.

실제 전문 상담사의 수련 과정은 엄격하다. ‘상담심리사 1급’은 석사학위 후 400회기 이상 면접상담, 50회 이상 전문가 지도(수퍼비전), 집단상담과 심리검사 실습 등을 거쳐야 응시 자격이 주어진다. 반면 ‘심리상담사 1급’ 등 공신력이 불명확한 민간자격증은 온라인 강의와 필기시험만으로 취득 가능한 경우가 대부분이다.

현재 온라인 중계 플랫폼에는 이런 민간자격증을 내세운 게시물이 수백 건 올라오며, 1만원 안팎의 저가 상담을 내세워 홍보하는 실정이다. 공신력 있는 학회 인증 자격과 구분이 어려워 소비자 혼란은 꾸준히 지적돼 왔다.

비전문 상담의 위험성이 드러난 사례도 있다. 지난 4월 미국 캘리포니아에서는 한 청소년이 챗GPT와 우울감을 토대로 대화를 이어간 뒤 극단적 선택을 해 부모가 오픈AI를 상대로 소송을 제기했다.

박 교수는 “한국에서는 아직 위협이 전면화된 상황은 아니지만 젊은층을 중심으로 이용이 늘고 있어 학계에서도 들여다보기 시작했다”며 “AI 상담은 위험군을 선별하거나 연계할 수 없어 내담자가 수동적으로 의존하게 만들 수 있고, 민간자격 상담 역시 훈련이 부족한 상태에서 취약한 정서를 다루는 데 한계가 크다”고 경고했다.

/유혜연 기자 pi@kyeongin.com