“그 사람은 횡령범” 가짜뉴스 퍼트린 AI…명예훼손 따질 수 있을까

챗GPT, 총기권리 운동가 ‘횡령범’ 묘사
마크 월터스 “명예훼손 분명하다” 소송
오픈AI “명성에 흠 없었다“며 기각요청
재판부 일단 속개…인공지능 업계 촉각
“원고 승소시 AI 개발사 소송 잇따를 듯”

샘 올트먼 오픈AI CEO 스케치

거짓말을 생성한 챗GPT가 명예훼손 소송에 휘말렸다.

오픈AI는 챗GPT를 둘러싼 소송에 대해 재판부에 기각 요청을 신청했지만 미국 법원이 21일(현지시각) 이를 거부했다. 미국 내 총기권리 활동가인 마크 월터스는 챗GPT 개발사인 오픈AI를 상대로 명예훼손 소송을 제기한 상태다.

월터스에 따르면, 챗GPT는 월터스에 대해 ‘횡령 혐의’가 있다고 묘사했다. 월터스는 챗GPT의 환각 현상을 기자 프레드 리엘(Fred Riehl)로 부터 전해 들었다. 리엘은 챗GPT에 월터스가 연관된 비영리단체 ‘미국 수정헌법 제2조 재단(Second Amendment Foundation·SAF)’에 대해 요약해 달라고 요청했다. 하지만 챗GPT는 ”월터스가 SAF 자금을 횡령했다“고 비난했다. 대표적인 환각 사례이다.

이에 월터스는 즉각 오픈AI를 상대로 명예훼손 소송을 제기했다. 오픈AI는 ”챗GPT는 출판물이 아니기 때문에 명예훼손 대상이 아니다“고 강조했다. 특히 오픈AI는 ”더욱이 실제로 악의나 비방에 관한 내용을 믿는 청취자가 없기 때문에 명성에 흠이가지 않았다“고 주장했다.

미국에서 명예훼손 요건이 성립하려면 △ 거짓이어야 하고 △ 면책특권없이 제삼자를 상대로 공표해야하며 △ 고의 또는 부주의로 인한 피고의 책임이 분명해야 한다. 또 소송인이 실질적 피해를 입어야한다.

이 같은 오픈AI의 기각 신청에 조지아주 담당 판사는 거절했다. 미국 IT 매체인 테크니카는 ”오픈AI의 주장은 판사에게 설득력이 없었던 것으로 보인다“면서 ”판사는 지난주 재판 속개 명령을 내렸다“고 말했다.

AI 업계는 촉각을 곤두세우고 있다. 이번 재판이 생성형 AI가 만든 환각이 명예훼손 대상이 되는지 여부를 판별하기 위한 시금석이기 때문이다. 만약 담당 법원이 원고 측 손을 들어줄 경우 완벽하지 않은 AI 개발사는 크고 작은 소송에 휘말릴 가능성이 크다. 통상 명예훼손 소송 대상은 공공연하게 ‘구체적 사실’을 퍼뜨리는 출판 방송 등이 대상이기 때문에, 이번 재판은 대규모언어모델이 미디어와 같은 기능을 수행하고 있다는 점을 묵시적으로 인정하고 있는 셈이다.