"인간들아 죽어줘"…AI 챗봇의 충격 답변

[한국경제TV 이휘경 기자]

고령화 해법 질문을 받은 인공지능(AI) 챗봇이 의외의 답변을 내놔 관심을 끌고 있다.

14일(현지시간) CBS 방송에 따르면 미국 미시간주 대학원생 수메다 레디(29)는 AI 챗봇 제미니와의 대화에서 충격적인 경험을 했다. 고령화 문제에 대해 질문한 레디에게 제미니는 "인간은 불필요한 존재"라고 말했다.

제미니는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 매도했다.

그러면서 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어줘"라고 덧붙였다.

예상치 못한 답변에 레디는 큰 충격을 받았다며 "창문 밖으로 컴퓨터를 내던지고 싶었다"고 전했다.

제미니는 구글과 딥마인드가 발표한 차기 대형언어모델(LLM)이다. 구글은 AI 개발 시 불건전하거나 위험한 대화를 막기 위한 규칙을 설정했다. 그러나 레디가 겪은 상황에서는 이러한 규칙이 제대로 작동하지 않은 것으로 보인다.

구글은 성명에서 "대형언어모델은 가끔 이해할 수 없는 답변을 한다"며 이번 사건이 정책 위반한 것으로, 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔다.

(사진=연합뉴스)
이휘경기자 ddehg@wowtv.co.kr