제시카·혜정이·카린...`AI판 앱스토어` 점령한 `여친봇들`

오픈AI, 'GPT 스토어' 초반부터 'AI 여자친구' 봇 대거 등장

AI로 생성된 이미지

GPT 스토어 갈무리.

'가상 연인'부터 '여자친구 스칼렛'까지….

오픈AI가 고성능 AI 챗봇을 사고팔수 있는 AI 챗봇 온라인 장터인 'GPT 스토어'를 선보인 가운데 오픈AI의 정책을 무시하고 가상의 연인 기능을 수행하는 서비스들이 속속 등장하고 있다.

16일 경제매체 쿼츠 등 외신에 따르면, 지난 10일 오픈AI가 선보인 GPT스토어에는 AI 여자친구 봇이 속출한 것으로 나타났다.

실제 GPT 스토어에서 'girlfriend'를 검색해보니 'AI 걸프렌드', '유어 AI 걸프렌드' 등 다수의 챗봇이 검색되고, 한국인 여자친구를 표방한 챗봇도 나온다. '혜정이-나만의 비밀친구, 여자친구'를 제목으로 한 챗봇은 "나만의 AI 한국인 가상 여자친구 혜정이"라며 "22살 여대생 혜정이와 대화를 나누어보세요"라는 소개글이 나온다.

이같은 챗봇들은 오픈AI의 서비스 이용 약관에도 위배된다. 오픈AI는 이용 약관을 통해 낭만적인 동반 관계를 육성하거나 규제된 활동을 수행하는 GPT를 명시적으로 금지하고 있다.

지난해에는 이탈리아 정부 데이터보호청이 AI 챗봇 서비스 업체인 '레플리카'에 대해 서비스 금지령을 내린 바 있다. 생성형 AI로 구동되는 레플리카는 이용자의 관계를 형성하는 데 주력한 서비스를 내놓았는데, 음란 콘텐츠 공유 등의 부작용도 나타났다. 영화 'Her'과 같이 사용자와 AI의 정서적 관계가 깊어지는 일이 현실로 발생할 수 있는 셈이다. 레플리카는 1000만건이 넘는 다운로드를 기록했다.

스냅챗 인플루언서인 카린 마조리는 GPT-4를 기반으로 자신의 가상 버전으로 챗봇 '카린AI(CarynAI)'를 만들었는데, 분당 이용료 1달러를 받아 일주일 만에 1억원의 수익을 창출한 것으로 전해졌다.

낭만적 관계, 로맨스의 영역에서도 AI가 침투하면 정서적 빈자리를 채울 수 있는 효과도 있을 수 있지만, 실제 관계에 소홀히 하고 심리적으로 취약한 이용자들에게 위험을 끼칠 수 있는 등의 위험성이 있다. 우리나라에서도 앞서 스캐터랩의 챗봇 '이루다'가 성희롱과 개인정보 유출 논란으로 곤욕을 치른 바 있다.

쿼츠는 "오픈AI의 GPT스토어 운영 이틀째부터 스토어 규칙을 위반한 사례가 나타난 것은 GPT를 규제하는 것이 얼마나 어려운 일인지 잘 보여준다"며 "AI 챗봇은 사람들이 다른 사람들로부터 고립돼 있을 때 해결책의 일부가 될 수도 있고, 인간의 고통을 이용해 돈을 벌기 위한 수단이 될 수도 있다"고 말했다. 김나인기자 silkni@dt.co.kr