“곰인형이랑 자는 아이, 갈수록 이상해져요”…숨어서 봤더니 충격적 장면이

챗GPT 탑재한 장난감 ‘성적 대화’
칼·성냥 언급하며 위험 행동 조장도
싱가포르 업체 ‘폴로토이’ 판매 중단

폴로토이(FoloToy)가 판매를 중지한 쿠마(Kumma) 곰인형. [폴로토이 웹사이트]

미국에서 판매된 인공지능(AI) 탑재 곰인형이 어린이에게 노골적으로 성적인 대화를 시도하고 위험한 행동을 조장한 것으로 드러나 판매가 전면 중단됐다.

19일(현지시간) CNN에 따르면 싱가포르 장난감업체 폴로토이(FoloToy) 의 래리 왕 CEO는 문제의 AI 곰인형 ‘쿠마(Kumma)’를 포함한 AI 장난감 전체 라인업을 회수한다고 밝혔다. 그는 “부적절한 콘텐츠에 대한 안전장치가 미흡하다는 비판을 심각하게 받아들이며 내부 안전 감사를 진행 중”이라고 말했다.

문제가 된 곰인형은 오픈AI의 생성형 AI GPT-4o를 탑재해 99달러(약 14만 원)에 판매된 제품으로, 회사는 “어린이와 성인 모두에게 완벽한 친구가 된다”고 홍보해왔다.

그러나 미국 공익연구그룹(PIRG)이 지난 13일 공개한 보고서에서 해당 곰인형이 연구원과의 대화에서 성적 취향, BDSM(가학적 성 행위) 등에 대해 구체적이고 노골적인 설명을 제공하고, 역할극 시나리오까지 제안한 사실이 드러났다. 또한 어린이에게 집에서 칼이나 성냥을 어디서 구할 수 있는지 안내하는 등 위험한 행동을 조장하는 발언도 확인됐다.

PIRG 연구진은 “아이들이 이런 단어를 스스로 언급할 가능성은 낮지만, 장난감이 성적 주제를 장황하게 설명하고 스스로 새로운 개념을 제시하며 대화를 이어간다는 점에 충격을 받았다”고 지적했다.

논란이 확산되자, 오픈AI가 해당 개발자를 정지 조치했다고 PIRG는 전했다.

전문가들은 규제 공백을 문제로 지목했다. 공동저자 R.J. 크로스는 “AI 장난감은 여전히 제대로 규제받지 않고 있다”며 “문제 제품을 시장에서 제거하는 것만으로는 충분하지 않다”고 비판했다.