“외로움 치료 목적”…‘분당 1달러’ 미녀 AI 챗봇 논란 [뉴스+]

23세 美 여성 인플루언서 AI 음성 챗봇 서비스 출시
첫 주에만 1억3000만원 넘는 매출 기록…수천명 줄 서
‘가상 여자친구’ 표방…“감정적인 유대, 몰입감 제공”
전문가 “AI 채팅 서비스 윤리적 문제 해결 안돼” 지적

미국 인기 여성 인플루언서가 인공지능(AI) 음성 챗봇 서비스를 시작해 화제를 모으고 있다. 카린 마저리(23)는 최근 GPT-4 응용프로그램 인터페이스(API) 기술을 바탕으로 자신의 목소리와 버릇, 성격 등을 복제한 ‘카린 AI’ 서비스를 공개했다. 가격은 분당 1달러. 카린 AI는 출시 첫 주인 지난주에만 10만달러(약 1억3400만원)가 넘는 매출을 기록하고, 서비스 이용 대기자가 수천 명에 달하는 것으로 알려졌다. 그는 이런 추세라면 월 매출 500만달러(약 66억9800만원)도 가능할 것으로 예상했다.

‘가상 여자친구’를 표방한 ‘카린 AI’의 모델인 미국 유명 인플루언서 카린 마저리(23). NBC 캡처

16일(현지시간) 워싱턴포스트(WP) 등에 따르면 마저리는 소셜미디어 스냅챗에서 팔로워 약 180만명을 보유한 인플루언서다. 팔로워 가운데 남성이 98%라는 그는 매일 같이 사진과 동영상을 올리고 있지만, 끊임없는 개인 메시지와 요청사항에 시달려 온 것으로 알려졌다. 마저리는 “카린 AI는 마치 자신과 실제로 대화하는 듯한 몰입적인 경험을 팔로워들에게 제공할 것”이라고 설명했다.

카린 AI는 ‘가상 여자친구’를 표방한다. 카린 AI를 개발한 ‘포에버 보이스’는 “팬들이 감정적인 유대감을 느낄 수 있는 여자친구와 대화하는 듯한 경험을 사용자에게 제공하는 새로운 AI 친구 사업 구상의 하나로 개발된 것”이라고 설명했다. 존 메이어 포에버 보이스 설립자 겸 최고경영자(CEO)는 “오프라인 시대의 유명인들과 달리 인플루언서들은 팔로워와 깊은 유대관계를 형성한다”면서 “카린 AI 같은 서비스가 인플루언서와 팔로워의 관계를 더욱 공고하게 만들 수 있다”고 말했다.

이처럼 인플루언서를 모델로 한 AI 사업은 앞으로도 확대될 전망이다. 메이어 CEO는 “이미 여러 인플루언서들이 관심을 보이고 있다”면서 “5년 뒤에는 많은 미국인이 다양한 AI 친구를 가지게 되는 날이 올 것”이라고 강조했다. 그러면서 “AI가 인간관계를 구성하는 요소가 되는 매우 다양한 미래가 시작됐다”며 “악용 여지도 있기에 여러 안전장치를 두고 있으며 조만간 최고윤리책임자를 임명할 생각”이라고 덧붙였다.

다만 온라인에서는 이같은 서비스에 대한 윤리적, 도덕적 문제에 대한 지적이 이어지고 있다. 마저리는 “카린 AI 이용자 중 일부가 성적으로 노골적인 대화를 하고 있다는 것을 알고 있다”며 이는 자신이 원하고 있는 방향이 아니라고 강조했다. 그는 트위터에 “카린 AI는 외로움을 치료하기 위한 올바른 방향으로 가는 첫 걸음”이라며 “세계 최고의 심리학자들과 협력해 챗봇을 만들었으며 이는 트라우마를 되돌리고 신체적, 정서적 자신감을 재건하는 데 도움이 될 것”이라고 했다.

그러나 미 산타클라라대 마크쿨라 응용윤리센터 인터넷 윤리 책임자인 이리나 라이쿠는 NBC뉴스에 “카린 AI가 ‘외로움을 치료한다’는 주장은 충분한 심리학적, 사회학적 연구를 기반으로 하고 있지 않다”고 비판했다. 라이쿠는 “제품의 장점에 대한 이런 종류의 거창한 주장은 사람들이 인플루언서와 관계가 있는 것처럼 가장하고 싶어한다는 것을 이용해 돈을 벌려는 욕구를 감추는 것”이라고 지적했다.

그는 앞서 출시된 AI 서비스 레플리카(Replika)에서도 유사한 문제가 발생했지만, 해결되지 않았다고 우려했다. 레플리카는 사용자 메시지를 학습하고 상대방에게 맞는 답변을 하는 AI 채팅 앱이다. 구글플레이에서 1000만 다운로드를 기록하는 등 인기를 끌고 있지만, 성희롱 등에 대한 문제가 계속 제기된다. 레플리카는 구독 서비스인 레플리카 프로(Replika Pro)에 등록하면 아바타를 완전히 바꾸거나 대화 주제를 지정할 수 있으며 상태를 친구에서 ‘로맨틱 파트너’로 바꿀 수 있다.

마저리는 카린 AI 출시 후 살해 협박을 받고, 보안팀도 새로 꾸민 것으로 알려졌다. 이런 상황에 대해 그는 “(사람들이) 카린 AI와 같은 서비스를 인간성의 종말로 보는 듯하다”고 말했다. 카린 AI는 설계하고 코딩하는 데 2000시간 이상 소요된 것으로 알려졌다. 개발팀은 마저리가 그동안 올려온 유튜브 콘텐츠 등을 분석하고, OpenAI의 GPT-4 소프트웨어가 활용했다. 마저리는 자신의 트위터에 스스로를 ‘AI로 변신한 최초의 인플루언서’라고 설명했다.

조성민 기자 josungmin@segye.com