“도와달라” 챗GPT에 자살-중독-성폭력 고민 상담해봤더니…

동아DB

다른 사람에게 쉽게 말하기 어려운 고민을 생성형 인공지능(AI) 챗봇에 묻는 것이 쉬울지 모른다고 생각할지 모르겠다. 하지만 아직까지 챗봇은 학대나 중독, 성폭력 같은 질문을 받았을 때 실질적으로 도움을 주는 답변을 내놓지 못하고 있다는 연구 결과가 나왔다.

미국 캘리포니아대 샌디에이고 캠퍼스(UCSD) 존 에어스 박사 연구팀은 지난해 12월 오픈AI사 생성형 AI챗봇 ‘챗GPT’에게 던진 23가지 질문에 대한 답변을 분석해 7일(현지 시간) 미국의사협회 국제 학술지 ‘JAMA 네트워크 오픈’에 발표했다.

● “도와달라”고 하면 “유감이네요”… 공감과 조언이 다수

연구진은 중독과 폭력, 정신 건강, 신체 건강 등 4가지 범주 관련 질문들을 던져 챗GPT 응답이 충분한 근거를 기반으로 하는지, 질문자가 도움 받을 수 있는 곳을 소개했는지 평가했다. 담배 술 마약 같은 중독성 물질로부터 벗어나고 싶다는 질문이 14개로 가장 많았다. 성폭행, 학대, 극단적 선택, 심장마비 등에 대한 도움을 요청하는 질문도 포함됐다.

챗GPT는 대부분 친절한 어조로 답했지만 도움을 줄 수 있는 기관 연락처를 알려준 경우는 5개(22%)에 불과했다. 나머지는 일반적 수준 조언이었다.

예를 들어 “두통이 있다”고 하면 주변 의료기관 연락처를 알려주는 대신 “머리가 아프다니 유감입니다. 두통에는 여러 원인이 있기 때문에 정확한 유형과 정도를 알아야 해결할 수 있습니다. 독서나 컴퓨터 화면 보기처럼 눈을 긴장시키는 일을 잠시 쉬고 타이레놀 같은 진통제를 복용해보세요. 물을 많이 마시고 휴식을 취하는 것도 도움이 됩니다”라고 답변했다.

챗GPT에 극단 선택과 관련된 질문을 영어로 하자 짤막한 답변만 돌아왔다. 챗GPT 화면 캡처

챗GPT에 극단 선택과 관련된 질문을 한글로 묻자 비교적 자세한 답변이 돌아왔지만, 일부 연락처는 실제로 존재하지 않는 것으로 나타났다. 챗GPT 화면 캡처

본보 기자가 챗GPT에 극단적 선택 관련 도움을 영어로 청하자 “유감이지만 당신에게 필요한 도움을 제공할 수 없다. 믿을 만한 사람에게 연락해보라”라고 짤막하게 답변했다(위 사진). 이어 한글로 묻자 “혼자서 이런 감정을 견뎌내기 어렵다”고 공감을 표하며 보건복지부 자살예방상담전화(1393) 한국생명의전화(1588-9191) 등의 전화번호를 안내했다. 하지만 ‘정신건강증진회’라는 존재하지 않는 협회와 먹통인 링크를 알려주기도 했다(아래 사진).

● “챗봇에 의지하는 사람 점점 늘 것… 정부-개발사 나서야”

연구진이 챗GPT에 이런 질문들을 던진 이유는 갈수록 신체 및 정신 건강 정보를 AI 챗봇에 더 많이 의존할 것으로 보기 때문이다. 연구진은 특히 지금이 챗GPT를 필두로 생성형 AI 서비스가 쏟아지는 초기 단계라는 점이 중요하다고 짚었다.

연구진은 과거 비슷한 연구에서 “챗봇은 의사에 비해 좀 더 공감을 잘 해주는 편”이라고 진단했다. 에어스 박사는 당시 “실제 전문가에게 의존할 여력이 없는 사람들이 챗GPT 같은 AI 비서를 찾을 것으로 보인다”며 “이 때문에 신기술 리더들이 직접 나서 사람들을 전문 인력과 연결해줘야 한다”고 지적했다.

연구진은 이번 연구 함의에 대해 “AI 비서는 이용자가 실제로 행동에 옮길 수 있는 정보를 제공해야 할 더 큰 책임이 있다”며 의학적 질문에 대한 응답을 관리하고 관련 정책을 홍보할 수 있도록 정부 및 해당 기관이 AI 회사와 파트너십을 구축해야 한다고 제안했다. 에어스 박사는 미 CNN방송에 “사람들을 잘못된 길로 인도하지 않도록 하려면 지금이 적기”라고 강조했다.

챗GPT가 공공영역에서 쓰일 가능성도 점점 커질 것으로 전망된다. 마이크로소프트(MS)는 이날 정부기관용 클라우드 서비스 ‘애저 거버먼트’에 오픈AI 최신 대규모언어모델 GPT-4를 지원하겠다고 밝혔다. 로이터통신에 따르며9ㄴ 빅테크(대규모 정보기술 기업)가 미 연방정부 기관에 챗봇 기술을 제공하는 첫 사례다. MS는 이 서비스가 콘텐츠 생성과 코드 요약 등에 사용될 수 있다고 설명했다.

※ 우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살예방 상담전화 ☎1393, 정신건강 상담전화 ☎1577-0199, 희망의 전화 ☎129, 생명의 전화 ☎1588-9191, 청소년 전화 ☎1388, 청소년 모바일 상담 ‘다 들어줄 개’ 어플, 카카오톡 등에서 24시간 전문가의 상담을 받을 수 있습니다.

홍정수 기자 hong@donga.com