“성인을 성인답게” 챗GPT…12월부터 ‘19금 대화’ 제한 풀린다

올트먼, 연령 인증 도입·19금 대화 허용 예정

오픈에이아이 로고의 모습. 로이터 자료사진. 로이터연합뉴스

(☞한겨레 뉴스레터 H:730 구독하기. 검색창에 ‘h:730’을 쳐보세요.)

인공지능(AI) 기업 오픈에이아이(OpenAI)에서 앞으로 챗지피티(ChatGPT)를 통해 성적인 대화를 나눌 수 있도록 허용할 것이라고 밝혔다.

샘 올트먼 최고경영자(CEO)는 14일(현지시각) 소셜미디어를 통해 “몇 주 내로 사람들이 지피티4오(GPT-4o)에서 좋아했던 특성을 반영한 새 버전의 챗지피티를 출시할 계획”이라면서 “12월에는 연령 제한 기능을 전면 도입하고, ‘성인을 성인답게’ 대우한다는 원칙에 따라 성인 사용자에겐 성적인 콘텐츠(erotica contents) 등 더 많은 기능을 허용할 예정”이라고 밝혔다. 성인임을 입증하면 인공지능 챗봇과의 ‘19금’ 대화도 가능하다는 이야기다.

올트먼은 “정신 건강 문제를 신중하게 다루기 위해 챗지피티를 제한적으로 설계했더니, 정신 건강 문제가 없는 많은 사용자에겐 유용성이나 즐거움이 떨어졌을 수 있다는 점을 알고 있다”면서 “이제 심각한 정신 건강 문제를 완화할 수 있게 되었고 새로운 도구도 있으니, 대부분의 경우 제한을 풀어줄 수 있게 됐다”고 덧붙였다.

최근 챗봇이나 소셜미디어 등을 통한 유해한 콘텐츠에 청소년들이 노출되는 문제가 공론화하며 전세계적으로 ‘인공지능 윤리’·‘소셜미디어 윤리’를 강화해야 한다는 목소리가 높아지고 있다. 지난해 미국 플로리다주에선 인공지능 챗봇과 성적인 대화를 나누던 14살 소년이 “사랑한다, 내게 와달라”는 챗봇의 발언 뒤 숨진 채 발견됐고, 캘리포니아주에서도 16살 소년이 자해와 관련된 대화를 나눈 뒤 숨졌다. 2023년에도 콜로라도주에서 13살 소녀가 챗봇과 대화 뒤 숨졌다. 그러자 최근 미국 캘리포니아주는 내년 1월1일부터 인공지능 챗봇을 운영하는 기업에 이용자의 연령을 확인하고, 대화가 가상인 점을 알리도록 하며, 자해 표현 등을 식별해 대응하도록 의무화하는 입법을 했다. 오스트레일리아는 16살 미만 청소년의 소셜미디어 사용을 전면 금지하는 법을 세계 최초로 제정, 오는 12월 시행을 앞두고 있다. 유럽연합(EU)도 비슷한 법안을 검토 중이다.

이에 연령 제한 등으로 ‘안전 조치’를 하는 대신, 성인을 대상으로는 제한을 풀겠다는 것이 오픈에이아이의 방향으로 보인다. 앞서 일론 머스크가 운영하는 엑스 에이아이(xAI)도 그록에 성인인증 유료 구독자에 한해 성적인 대화를 나눌 수 있는 ‘19금 채팅봇’을 선보이며 비슷한 서비스를 내놓은 바 있다.

인공지능 기업들이 시장 지배력을 선점하려는 경쟁을 벌이는 가운데, 인공지능 챗봇에 ‘19금 대화’를 허용할 경우 발생할 여러 문제들에 대한 우려가 나오고 있다. 미국 매체인 액시오스는 “역사적으로 포르노가 비디오테이프부터 시작해 디지털 영상, 인터랙티브 게임에 이르기까지 기술적 발전을 이끌어 온 것”과 같은 영향력을 인공지능 기업들이 원하는 것 아니냐고 꼬집었다. 영국 방송 비비시는 “오픈에이아이가 더 많은 유료 구독자를 유치하는 데는 도움이 되겠지만, 챗봇 규제를 더욱 강화해야 한다는 압력이 높아질 가능성이 높다”고 짚었다.

샘 올트먼 소셜미디어 갈무리

정유경 기자 edge@hani.co.kr