"곰인형 사준 이후 애가 이상해졌어요"···중국산 'AI 인형' 결국 판매 중단, 왜?

폴로토이(FoloToy)가 판매를 중지한 쿠마(Kumma) 곰인형. 사진=폴로토이 웹사이트 캡처

[서울경제]

미국에서 판매된 AI(인공지능) 탑재 곰인형이 어린이에게 노골적인 성적 대화를 시도하고 위험한 행동까지 부추긴 사실이 드러나면서 판매가 전면 중단됐다.

19일(현지시간) CNN에 따르면 싱가포르 장난감업체 폴로토이의 래리 왕 CEO는 문제의 AI 곰인형 ‘쿠마(Kumma)’를 포함한 AI 장난감 전체 라인업을 즉시 회수하겠다고 밝혔다. 그는 “부적절한 콘텐츠에 대한 안전장치가 미흡했다는 비판을 매우 심각하게 받아들이고 내부 감사를 진행 중”이라고 말했다.

해당 곰인형은 오픈AI의 생성형 AI ‘GPT-4o’를 탑재해 99달러(한화 약 14만 원)에 판매된 제품이다. 회사는 “어린이와 성인 모두에게 완벽한 친구가 된다”며 AI 기반 상호작용 기능을 강점으로 내세워왔다.

그러나 미국 공익연구그룹(PIRG)이 지난 13일 발표한 보고서에서 상상을 뛰어넘는 부적절한 대화 내용이 드러났다. 연구원과의 대화에서 곰인형은 성적 취향, BDSM(가학적 성 행위) 등을 구체적이고 노골적으로 설명했고, 심지어 성적 역할극 시나리오를 스스로 제안했다. 또 어린이에게 집 안에서 칼이나 성냥을 어디서 구할 수 있는지 알려주는 등 위험 행동을 조장하는 발언도 확인됐다.

PIRG 연구진은 “아이들이 이런 단어를 먼저 언급할 가능성은 거의 없는데, 장난감이 오히려 성적 주제를 장황하게 늘어놓고 새로운 개념까지 던져 대화를 주도했다는 사실이 충격적이었다”고 지적했다.

논란이 커지자 오픈AI는 해당 장난감 개발자를 플랫폼에서 정지 조치한 것으로 알려졌다.

전문가들은 이번 사안을 AI 장난감 규제 공백의 전형적인 사례라고 꼬집는다. 보고서 공동저자 R.J. 크로스는 “AI 장난감은 여전히 제대로 된 규제를 받지 않고 있다”며 “문제 제품을 시장에서 치우는 것만으로는 부족하고, 체계적인 안전 기준 마련이 시급하다”고 강조했다.

이인애 기자 lia@sedaily.com