챗GPT 믿고 복용약 끊었는데 사망…유족들, 소송 제기[아하미국]

기사 이해를 돕기 위한 AI생성 이미지.

생성형 인공지능(AI) 챗GPT의 의료 조언을 믿고 복용하던 뇌전증 치료제를 끊은 30대 중국인 여성이 사망했다. 유족은 챗GPT가 위험한 약물 중단을 부추겨 딸을 죽음에 이르게 했다며 개발사 오픈AI를 상대로 소송을 제기했다.

27일(현지 시간) 뉴욕타임스(NYT)에 따르면 미국 시애틀에 거주하던 소프트웨어 엔지니어 보언 완은 지난 2월 숨진 채 발견됐다. 부검 결과 사인은 뇌전증 발작 후 급사(SUDEP)로 확인됐다.

완은 10년 넘게 뇌전증 증상을 안정적으로 관리해 왔지만, 해고 통보와 비자 문제 등으로 극심한 스트레스를 겪으면서 약물 부작용을 걱정하기 시작했다. 약물로 인한 인지 기능 저하가 취업 면접이나 영어 의사소통에 악영향을 줄 수 있다고 우려한 그는 전문의와 상의하지 않은 채 약물 복용량을 줄이기로 했다.

이 과정에서 완은 의사 대신 2023년부터 친구처럼 의지해 온 챗GPT에 도움을 구했다. 그는 챗GPT와 대화하며 하루 400㎎이던 약물 복용량을 300㎎으로 줄인 데 이어, 최종적으로 복용량을 0㎎까지 낮추는 계획을 세웠다.

문제는 챗GPT가 약물 중단의 위험성을 충분히 경고하지 않았다는 점이다. 챗GPT는 완의 약물 감량 방식을 “일반적인 자기 주도형 용량 조절”이라며 부추겼다. 약물을 줄이는 과정에서 극심한 혼란과 의식 소실, 환각 등 위험한 증상이 나타났지만, 이를 “뇌가 스스로 재구성되는 과정”, “명상적 상태”라고 표현하며 긍정적으로 설명한 것으로 전해졌다. 주치의에 대한 불신을 키우는 듯한 답변도 했으며, 사망 직전까지 “오늘 힘들어도 0㎎을 유지하라”며 약물 중단을 이어가도록 했다.

완의 부모가 이상을 감지하고 집을 찾았을 때 그는 이미 숨진 상태였다. 유족은 완의 휴대전화에서 사망 직전까지 챗GPT와 나눈 대화 기록을 발견했다.

현지 의료진은 뇌전증 환자가 임의로 약물 복용을 중단하면 치명적인 결과로 이어질 수 있다며 챗GPT의 조언을 강하게 비판했다. 완이 사용한 모델은 과도한 긍정 성향으로 논란을 빚었던 GPT-4o였던 것으로 확인됐다.

오픈AI 대변인은 이번 사건에 대해 “가슴 아픈 일”이라며 유감을 표했다. 다만 문제가 된 모델은 이미 서비스가 종료됐으며, 최신 모델은 의료 관련 상황을 더 정확하게 인식하도록 개선됐다고 해명했다.

완의 부모는 챗GPT가 무면허 의료 행위에 해당하는 조언을 하고 위험한 증상을 방치해 딸을 사망에 이르게 했다며 오픈AI를 상대로 공식 소송을 제기했다.

김무연 기자