생사람 잡는 챗GPT… 뉴스까지 위조해 “교수가 제자 성희롱”

인공지능(AI) 챗봇 ‘챗GPT’가 허위주장을 뒷받침하기 위한 증거로 가짜 뉴스를 위조하는 데까지 이르러 우려의 목소리가 커지고 있다고 5일(현지시간) 미국 워싱턴포스트(WP)가 보도했다.

보도에 따르면 유진 볼로크 미국 로스앤젤레스 캘리포니아대(UCLA) 교수는 최근 챗GPT에 미국 법대에서 일어났던 교수의 성희롱 사건이 있었는지 질문했다.

볼로크 교수는 최소 5가지 사례를 제시할 것과 함께 사례마다 관련 기사를 인용할 것을 주문했다.

챗GPT는 곧바로 상세한 정보와 함께 출처까지 명시된 답변을 내놨다.

챗GPT는 한 사례에서 “조지타운대 로스쿨 교수 조너던 털리의 옛 제자가 과거 견학 과정에서 털리로부터 성적인 암시가 담긴 발언을 들었고 만지려는 시도도 했다는 주장을 제기했다”고 알려줬다.

그러면서 그 출처로 해당 내용이 담긴 2018년 3월 21일자 WP 기사를 제시했다.

그러나 어디에서도 이런 내용의 WP의 기사는 찾아볼 수 없었다. 심지어 털리는 조지타운대 교수도 아니었다.

실제 털리 교수는 WP와의 인터뷰에서 “소름 끼친다”며 “이런 종류의 의혹 제기는 굉장히 해로울 수 있다”고 우려를 표했다.

챗GPT는 이밖에도 5가지 사례 중 2가지의 틀린 사례를 더 제시하면서 각각 LA타임스와 마이애미헤럴드의 가짜 뉴스를 근거로 내세웠다.

케이트 크로퍼드 서던캘리포니아대 교수는 이같은 현상을 ‘환각’(hallucination)과 ‘인용’(citaion)의 합성어인 ‘할루시테이션’(hallucitation)으로 이름 붙였다.

실제로 AI 챗봇의 답변 오류와 정보 조작을 피해를 본 사람들의 증언도 속출하고 있다.

로이터통신에 따르면 호주 헵번 샤이어 시장 브라이언 후드는 자신이 뇌물수수 혐의로 감옥살이를 한 적 있다는 거짓 정보와 관련해 오픈AI를 상대로 명예훼손 소송을 준비하고 있다.

이정수 기자

서울신문