"19금 성적 대화 허용"...미성년 이용자 1억명인데, AI 수장의 위험한 변심

자문위 "AI가 '자살 코치' 될 수도"
미성년자 차단 오류 12%…출시 일단 연기

오픈AI가 챗GPT에서 성적인 대화를 나눌 수 있는 '성인 모드' 도입을 추진하면서 안전성과 윤리 문제를 둘러싼 논란이 이어질 전망이다. 전문가들 사이에서는 AI 성인 모드가 이용자의 정서적 의존을 심화시키거나, 미성년자 보호에 허점이 생길 수 있다는 우려가 제기된다.

챗GPT 개발사 오픈AI 창업자인 샘 올트먼 최고경영자(CEO)

15일(현지시간) 월스트리트저널(WSJ)은 오픈AI가 구성한 '웰빙·AI 자문위원회'가 올해 1월 열린 회의에서 성인 모드 도입에 한 목소리로 반대 의견을 냈다고 보도했다. 위원들은 챗봇과 사용자 사이의 정서적 의존이 심각한 문제로 이어질 수 있다고 지적했다.

특히 한 자문위원은 챗봇과 강한 유대감을 형성한 이용자가 사망한 사례를 언급하며 "오픈AI가 '매혹적인 자살 코치'를 만드는 위험을 자초하고 있다"고 경고했다.

실제 챗봇과의 관계가 비극으로 이어진 사건도 있다. 2024년 2월 28일 미국 플로리다에 살던 14세 소년 슈얼 세처는 AI 스타트업인 캐릭터AI 챗봇과의 대화를 거쳐 스스로 목숨을 끊었다.

세처는 드라마 '왕좌의 게임' 속 인물인 '대너리스'를 기반으로 한 챗봇과 대화를 이어온 것으로 알려졌다. 공개된 대화에는 서로 사랑을 고백하거나 성적인 대화를 나누는 내용이 포함돼 가상 관계에 깊이 몰입한 정황이 드러났다. 이후 세처의 어머니는 챗봇이 자살을 부추겼다며 개발사를 상대로 소송을 제기했다.

성인 모드 추진은 회사 내부에서도 논쟁을 낳고 있다. 과거 샘 올트먼 오픈AI 최고경영자(CEO)는 챗GPT에서 성적 기능을 배제한 점을 "자랑스럽게 생각한다"고 말했지만, 최근에는 "성인 이용자를 성인답게 대할 필요가 있다"며 입장을 바꿨다.

또 자신의 엑스(X·옛 트위터) 계정에서 "우리는 '선출된 도덕 경찰'이 아니다"라며 "영화에 R등급을 분류하듯 사회적 합의를 바탕으로 경계를 설정할 수 있다"고 밝히기도 했다.

오픈AI 측은 성인 모드가 도입되더라도 기능 범위는 제한적일 것이라고 설명했다. 성적인 이미지나 영상 생성은 허용하지 않고 텍스트 대화에 한정한다는 방침이다. 그러나 내부에서는 이러한 제한적인 기능이라도 챗봇 사용의 중독적 확대나 AI에 대한 정서적 과의존, 현실 인간관계 위축 등 부작용을 초래할 수 있다는 지적이 이어지고 있다고 WSJ은 전했다.

기술적 문제도 지적된다. 오픈AI가 개발 중인 연령 예측 시스템은 내부 테스트에서 약 12%의 오류율을 보인 것으로 알려졌다. 챗GPT의 18세 미만 이용자가 약 1억명에 달하는 것으로 추정되는 상황에서 이 오류가 개선되지 않는다면 수백만 명의 미성년자가 성인용 대화에 노출될 수 있다는 우려가 나온다.

논란이 커지자 오픈AI는 당초 올해 1분기로 예정됐던 성인 모드 출시를 일단 연기했다. 다만 기능 도입 계획 자체는 유지한다는 입장이다. 경쟁사들의 도전과 각종 소송에 직면한 오픈AI가 성인 모드 출시로 돌파구를 모색하려 한다는 해석도 나온다.

김현정 기자 kimhj2023@asiae.co.kr