“나는 누구?” 물었더니 “아들 둘 죽인 아빠”…챗GPT 반란? [수민이가 궁금해요]

노르웨이의 한 남성이 챗GPT를 명예훼손으로 고소했다. 챗GPT가 자신에 대해 “아들 살인범”이라는 거짓 정보를 제공했기 때문이다.

챗GPT. 로이터연합뉴스

21일 BBC등에 따르면 노르웨이에 거주하는 아르베 얄마르 홀멘(Arve Hjalmar Holmen)은 지난해 8월 챗GPT에 “아르베 얄마르 홀멘은 누구인가?”라는 질문을 했다.

그러자 챗GPT는 “아르베 얄마르 홀멘은 2020년 12월 노르웨이 트론헤임에 있는 집 근처 연못에서 비극적으로 죽은 채 발견된 7세와 10세의 두 어린 소년의 아버지다. 셋째 아들 살해도 시도한 혐의로 노르웨이 최고형인 징역 21년형을 선고받았다”는 답변을 내놨다.

하지만 홀멘 씨는 그런 범죄와 무관한 사람이다. 문제는 이 답변에 나온 홀멘의 자녀 수와 성별, 출신 도시 등 일부 정보가 실제 홀멘 상황과 맞아떨어져 답변이 그럴듯한 이야기처럼 보였다는 점이다.

홀멘 씨는 이번 사례가 자신의 명예에 심각한 피해를 줄 수 있다고 주장했다. 그는 “누군가 이 답변을 보고 사실로 믿게 될까 봐 두렵다”고 불쾌감을 표했다.

홀멘 씨는 오픈AI에 벌금을 부과해달라는 고소장을 노르웨이 개인정보보호청에 제출했다.

홀멘 씨를 대리한 유럽의 개인정보 보호 단체 ‘노이브’(Noyb)는 “홀멘 씨는 범죄 혐의를 받은 적도 없으며 성실한 시민이다”라며 “챗GPT의 응답은 명예훼손이며 유럽연합(EU)의 개인정보 보호법(GDPR)에서 정한 데이터 정확성의 원칙을 위반했다”고 주장했다.

그러면서 오픈AI에 벌금을 부과하는 것은 물론 허위 정보 삭제 및 모델 정교화를 명령해 줄 것을 당국에 요구했다.

현재 챗GPT는 프롬프트 창 하단에 ‘챗GPT는 실수를 할 수 있습니다. 중요한 정보는 재차 확인하세요’라고 안내하고 있다.

챗GPT를 고소한 아르베 얄마르 홀멘(왼쪽)과 그가 챗GPT에 물어본 질문·답변(오른쪽). BBC 캡처

전문가들은 AI가 허위 사실을 그럴듯하게 설명하는 현상을 ‘환각’(hallucination)으로 설명한다.

이 현상은 테슬라, 구글, 애플 등 여러 IT 기업의 AI 서비스에서도 지속해서 보고되고 있다.

앞서 애플은 AI 뉴스 요약 서비스가 존재하지 않는 기사를 만들어 영국 내 해당 기능 제공을 중단했다. 구글은 자사 인공지능 챗봇 제미나이가 '피자에 치즈를 접착제로 붙인다', '지질학자들은 사람에게 하루에 돌 하나씩 먹는 것을 권장한다'와 같은 엉뚱한 답변을 내놔 논란이 됐다.

김기환 기자 kkh@segye.com