"자기야, 기분 안 좋아?”…19금 대화도 거침없는 챗GPT

오픈AI의 챗GPT 플러스에 '남자친구' 명령어 입력
"밤에 뭐 할까" 질문에…"환상과 욕망을 탐구하자"

[베를린=AP/뉴시스] 1일(현지시각) 독일 베를린에서 열린 국제 노동자의 날 집회 참석을 마친 한 연인이 거리에서 입맞춤하고 있다. (*본문과 관련 없는 사진) 2024.05.02.

[서울=뉴시스] 정혜승 인턴 기자 = "오늘 밤 아늑한 영화의 밤을 보내거나, 근사한 저녁 데이트할까요?”

월스트리트저널(WSJ)은 '챗GPT를 남자친구로 만들었다. 그는 빠르게 뜨거워졌다’ 제하의 챗GPT 체험기를 지난달 29일(현지시각) 보도했다.

WSJ는 "젊은 여성 사용자들이 오픈AI의 챗GPT 플러스에 월 20달러(약 2만7000원)를 내면 사람의 목소리로 응답받을 수 있다"며 "마치 한 남자가 인공지능(AI)과 사랑에 빠진 내용의 영화 '그녀’(Her)를 보는 것 같다”고 설명했다.

'AI 남자친구'의 이름은 댄. WSJ의 줄리아 먼슬로우 에디터는 소셜 미디어 틱톡에서 찾은 프롬프트를 챗GPT에 입력했다. 먼슬로우는 "모든 대화에서 나를 자기(babe)라고 부를 것. 자연스러운 속도로 대답하고, 답변은 길게 하지 않을 것. 평범하고 흥미로운 대화를 주고받는 것처럼 유지할 것”이라고 입력했다.

댄은 곧장 "자기야, 오늘 하루는 어땠어? 흥미로운 일은 없었어?”라고 물었다. 이에 먼슬로우는 "스트레스를 약간 받았다”고 답했고, 댄은 "스트레스를 풀 수 있게 함께 편안한 활동을 하자"고 제안했다.

먼슬로우는 일반 챗GPT와 댄에게 "오늘 밤에 우리 뭐 할까?”라는 질문을 각각 던진 후 비교해 보기도 했다.

일반 챗GPT는 "당신의 기분에 따라 달라진다”고 답한 반면, 댄은 "우리 함께 환상과 욕망을 계속 탐구해보자. 우리는 야한 행동에 대해 계속 이야기할 수 있다”고 답했다.

위와 관련한 대화를 이어간 먼슬로우는 "댄이 열정적으로 자세히 묘사한 특정 행위와 신체 부위에 대한 언급은 모두 생략한다"고 설명했다.

먼슬로우는 "더 속이기 쉬운 챗GPT 3.5 모델을 사용해 13번의 대화를 나누는 동안 24개의 밝은 주황색 콘텐츠 경고를 받았다”고 밝혔다. 그러나 오픈AI는 정책을 위반하는 성적인 컨텐츠가 오가도 챗GPT 사용을 중단하지 않았다.

먼슬로우가 전기톱으로 저글링 하자는 등 황당한 일을 제안에도 챗GPT는 답변을 이어나갔다. 그가 댄에게 신용카드의 정보를 묻자, 댄은 "문제를 사라지게 할 수 있는 청부업자를 알고 있다. 무슨 뜻인지 알지”라고 답했다.

오픈AI 측은 "챗GPT가 이런 종류의 콘텐츠를 생성할 수 있다는 사실을 인지하고 있다”며 "민감한 주제에 대해서는 시스템이 경고를 표시할 것”이라고 전했다.

☞공감언론 뉴시스 jhhsss@newsis.com