정신과 의사들, "생성형 AI는 양날의 검…대체 아닌 보조 수단"
생성형 인공지능(AI)이 정신건강 진료 현장에서 활용되기 시작했다. 국내 정신건강의학과 의사들은 생성형 AI가 양면성을 지니고 있다는 점에서 '보조' 수단으로만 활용해야 한다고 보았다.
고대안암병원은 조철현 정신건강의학과 교수와 정두영 KAIST 디지털인문사회과학부 교수 공동 연구팀이 국내 정신건강의학과 의사들의 생성형 AI 관련 경험을 조사하고 연구 결과를 국제학술지 ‘의학 인터넷 연구 저널’에 발표했다고 10일 밝혔다.
연구팀은 2025년 10월 27일부터 12월 26일까지 대한신경정신의학회 회원 대상으로 생성형 AI 관련 설문을 진행했다. 정신건강의학과 전문의 326명, 전공의 82명 등 408명이 설문에 참여했다. 설문 답변 중 의미 있는 개방형 답변(자유로운 서술)을 남긴 311명의 응답이 질적 분석에 쓰였다.
연구팀의 설문은 세 가지 질문으로 구성됐다. 진료 현장에서 챗봇·진단 보조도구 등 생성형 AI와 관련해 겪은 경험, 인간 치료자와 비교한 생성형 AI의 장점과 한계, 정신건강 분야에 생성형 AI를 안전하게 도입하기 위한 가장 시급한 과제 등 3가지다.
연구팀은 미래 예측 기법인 ‘호라이즌 스캐닝’ 개념을 이용해 의사들의 응답을 ‘현장 신호 → 해석 → 도입 우선순위’ 3단계 구조로 분석했다. 그 결과, 생성형 AI는 임상적으로 ‘양가적 기술’이라는 특징이 드러났다. 같은 기능이라도 사용 맥락, 사용 강도, 환자의 취약성에 따라 도움이 되기도 하고 위험해지기도 한다는 것이다.
설문에 따르면 환자가 그동안 표현하기 어려웠던 감정을 생성형 AI의 도움을 받아 언어화하면서 증상이 호전된 사례가 있다. 환자가 감정을 정리하는 데 AI를 긍정적으로 활용할 수 있다는 것이다.
생성형 AI의 과도한 사용으로 인한 부작용도 확연하게 드러났다. 환자의 망상적 신념 강화, 사회적 위축, 과의존, 약물 과다복용 등 자살·자해 위험과 연결된 사례들이 발생했다. 환자가 생성형 AI 출력 내용을 의사의 진단과 비교하면서 치료 관계(의사와 환자 간 상호작용) 및 치료 순응도, 진단에 대한 신뢰가 흔들리는 양상도 확인됐다.
설문 응답자들은 생성형 AI는 표준화돼 있고 사람처럼 피로의 영향을 받지 않는 도구라고 긍정적으로 평가하면서도, 비언어적 단서나 정서적 뉘앙스가 반영되는 데 한계가 있다는 점을 지적했다. 사용자의 표현을 비판이나 검증 없이 반복적으로 수용하는 생성형 AI는 환자에게 위안이 되기도 하지만 왜곡된 신념을 과도하게 인정해주는 위험성이 존재한다고도 평가했다.
연구팀은 "AI 활용의 익명성과 즉시성은 매력적이지만 동시에 전문가의 감독 없는 사용은 위험한 상황으로 이어질 수 있다"고 설명했다.
의사들이 생각하는 생성형 AI 도입 시 우선순위는 ‘안전한 도입의 전제조건’이었다. 거버넌스와 책무성, 위기 상황·취약 집단을 위한 안전 인프라, 확산 전 기술적 신뢰성과 임상 검증, 교육·감독·구조적 지원이 도입을 위한 핵심 과제로 꼽혔다.
결론적으로 정신건강의학과 의사들은 생성형 AI가 인간 치료자의 보조 수단으로는 유용하나 대체재로는 받아들이기 어렵다는 데 의견을 모았다. 행정 업무, 정보 정리, 환자 교육, 진료 전후 보조 등에는 유용하지만 환자를 직접 치료하고 위기 상황을 판단하고 치료 관계를 형성하는 영역에서는 인간 치료자를 대체할 수 없다는 것이다.
연구팀은 앞으로 정신건강의학과 의사가 환자의 생성형 AI 사용 내용을 해석하고 적절한 사용 범위를 안내하고 위험 상황을 감독하는 역할도 맡게 될 수 있다고 설명했다.
조 교수는 “이번 연구는 정신과 의사들이 실제 진료실에서 생성형 AI를 어떻게 마주하고 있는지를 현장 경험에 근거해 규명했다는 점에서 의미가 있다”며 “정신건강 분야의 AI는 다른 의료 AI보다 더 계층화된 감독과 진단 민감형 안전장치가 필요하다“고 말했다.
정 교수는 “핵심 과제는 환자의 취약성과 관계적 요구, 정신과 특유의 안전 위험을 고려해 생성형 AI 사용을 어떻게 경계 짓고 감독하며 통치할 것인가”라며 “빠른 대체가 아니라 제한적 보조 사용과 강화된 거버넌스·검증이 우선돼야 한다”고 설명했다.
[문세영 기자 moon09@donga.com]
Copyright © 동아사이언스. 무단전재 및 재배포 금지.