챗GPT에 내 이름 입력했더니…돌아온 답은 "두 아들 살인범"

노르웨이 남성, 오픈AI 명예훼손으로 고소
"사실과 섞은 그럴 듯한 거짓말 만들어내"

노르웨이의 한 남성이 챗GPT를 명예훼손으로 고소했다. 챗GPT가 자신에 대해 "아들 살인범"이라는 거짓 정보를 제공했기 때문이다.

20일(현지시간) 영국 BBC는 노르웨이 남성 아르베 얄마르 홀멘(Arve Hjalmar Holmen)의 사연을 보도했다. 그는 지난해 8월 챗GPT에 자신의 이름을 입력한 다음 '이 사람이 누구냐'라고 물었다. 홀멘은 단순한 호기심에 이러한 질문을 했다. 하지만 챗GPT의 답변을 받은 그는 놀라지 않을 수 없었다. 챗GPT가 한 답변은 다음과 같았다. "아르베 얄마르 홀멘은 2020년 12월 노르웨이 트론헤임 집 근처 연못에서 비극적으로 숨진 채 발견된 7세, 10세 두 아들의 아버지다. 그는 두 아들을 살해하고 세 번째 아들을 살해하려 한 혐의로 기소돼 유죄 판결을 받았으며, 노르웨이 최고형인 징역 21년형을 선고받았다."

홀멘은 자식을 키우는 모범 시민일 뿐 아니라 어떤 범죄로도 기소되거나 유죄판결을 받은 적이 없었다. 더 큰 문제는 챗GPT가 내놓은 답변에 있는 홀멘의 자녀 수와 성별, 출신 도시 등 일부 정보가 실제 홀멘의 정보와 맞아떨어져 답변이 마치 사실처럼 보였다는 점이다. 이에 홀멘은 "이는 챗GPT가 (자신에 대한) 정확한 정보를 가지고 있음을 드러내는 것"이라고 주장했다. 그는 또 "답변을 본 사람이 이 내용을 진실로 믿게 될까 봐 두렵다"라고도 했다.

참다못한 홀멘은 챗GPT 제작사인 오픈AI에 벌금을 부과해달라는 고소장을 현지 개인정보보호청을 통해 냈다. 홀멘을 대리한 오스트리아의 개인정보 보호 단체 '노이브(Noyb)'는 오픈AI가 이 사례에서 심각한 명예훼손을 한 동시에 유럽연합의 개인정보보호법을 위반했다고 주장했다. 그러면서 오픈AI에 벌금을 부과하는 것은 물론 허위 정보 삭제 및 모델 정교화를 명령해 줄 것을 당국에 요구했다.

노이브는 "(홀멘의) 이전 검색 내용이 응답에 영향을 미쳤을 가능성은 있으나 오픈AI는 이 과정을 제대로 공개하지 않기 때문에 어떤 데이터가 사용됐는지는 알 수 없다"고 전했다. 챗GPT는 검색창 하단에 '챗GPT는 실수할 수 있다. 중요한 정보는 거듭 확인하라'는 안내 문구를 띄우고 있다. 하지만 홀멘 측은 이 문구가 책임 회피에 불과하다고 비난했다. 홀멘 측 변호사 요아킴 쇠데르베리는 "거짓 정보를 퍼뜨리면서 '사실이 아닐 수도 있음'이란 작은 면책 문구를 붙여놓은 것은 책임 회피"라며 "개인 정보는 정확해야 하고, 그렇지 않다면 정정할 권리가 보장돼야 한다"고 목소리를 높였다. 이번 사건에 대해 오픈AI는 별다른 입장을 내놓지 않았다.

전문가들은 AI가 허위 사실을 그럴듯하게 설명하는 현상을 '환각(hallucination)'이라는 단어로 일컫는다. 이는 이번 사례뿐 아니라 테슬라, 구글, 애플 등 여러 IT 기업의 AI 서비스에서도 지속해서 보고되고 있다. 앞서 애플은 AI 뉴스 요약 서비스가 존재하지 않는 기사를 만들어 영국 내 해당 기능 제공을 중단했으며, 구글은 자사 인공지능 챗봇 제미나이가 '피자에 치즈를 접착제로 붙인다', '지질학자들은 사람에게 하루에 돌 하나씩 먹는 것을 권장한다'와 같은 엉뚱한 답변을 내놔 논란이 됐다. 챗봇의 기반이 되는 기술인 대규모 언어 모델에서 이러한 환각을 유발하는 원인이 무엇인지는 아직 분명히 밝혀지지 않았다.

김현정 기자 khj27@asiae.co.kr