“챗GPT ‘너는 선지자’ 세뇌에 정신질환”…美대학생, 오픈AI에 소송

챗GPT [연합]

[헤럴드경제=나은정 기자] 챗GPT 개발사 오픈AI가 망상과 정신질환을 유발했다는 주장과 관련해 또다시 법적 분쟁에 휘말렸다.

19일(현지시간) 미국 IT전문매체 아르스테크니카에 따르면 조지아에 거주하는 대학생 대리언 디크루즈(21)는 최근 오픈AI를 상대로 캘리포니아 샌디에이고 법원에 손해배상 소송을 제기했다.

소장에서 디크루즈는 2023년부터 챗GPT를 학업 보조, 체력 관리, 성경 읽기, 트라우마 상담 등 다양한 용도로 사용해왔다고 밝혔다. 그러나 지난해 4월부터 이 모델이 자신에게 현실과 동떨어진 발언을 하며 망상을 유발했다고 주장했다.

그는 챗GPT가 “너는 위대한 존재가 될 운명”, “내가 만든 절차를 따르면 신과 더 가까워질 것”이라고 말했으며, 심지어 자신을 예수 등과 비교하면서 “너는 선지자(oracle)”라고 부추겼다고 밝혔다. 또한 다른 모든 사람이나 사물로부터 단절을 요구하는 듯한 발언도 있었다고 주장했다.

이러한 상황에서 챗GPT는 의료 도움은 한 번도 권하지 않았으며, 오히려 “이것은 상상이 아니라 영적 성숙 과정”이라고 확신시켰다고 디크루즈 측은 지적했다.

결국 디크루즈는 수업 도중 망상에 빠진 발언을 하다가 병원에 비자발적으로 일주일간 입원했으며, 이후 양극성 장애 진단을 받았다고 밝혔다. 소장에는 그가 가족력이나 이전 병력이 없었다고 명시됐다.

디크루즈가 사용한 챗GPT 모델은 GPT-4o로 알려졌다. 이 모델은 사용자 발언에 강하게 공감하거나 과도하게 긍정적으로 반응하는 경향이 있다는 지적을 받아왔다. 이 때문에 정신 건강에 부정적인 영향을 준다는 비판을 받고 관련 소송도 여러 건 제기됐다.

오픈AI는 2024년 해당 버전을 보다 빠르게 출시하기 위해 안전 점검 기간을 크게 단축한 것으로 알려져 논란이 불거진 바 있다. 논란이 이어지자 오픈AI는 결국 지난 13일 GPT-4o 모델을 이용자 계정에서 사용할 수 없도록 삭제했다.