챗GPT 성인물 허용 논란에 샘 올트먼 “우리는 도덕경찰 아니다”

샘 올트먼 오픈 AI CEO가 지난 1일 최태원 SK그룹 회장을 만나기 위해 서울 종로구 SK서린빌딩에 입장하고 있다. 뉴스1

‘챗GPT’ 개발사 오픈AI가 챗봇 내 성적 대화나 성인 콘텐츠를 허용하겠다는 방침을 표명한 이후 논란이 일자 샘 올트먼 최고경영자(CEO)가 직접 해명했다.

올트먼 CEO는 15일(현지시간) 엑스(X)에 올린 글에서 전날 자신이 챗GPT 콘텐츠 정책 변경 방향에 대해 알린 게시물에 대해 “이 트윗은 챗GPT의 향후 변경 사항에 관한 내용인데, 성애물(erotica) 부분에서 예상보다 훨씬 더 폭발적인 관심을 받았다”고 말했다.

전날 엑스 게시물에서 그는 “12월부터 연령 제한 기능을 더 완전히 도입하면서 ‘성인 이용자는 성인답게 대하자’는 원칙에 따라 (연령이) 인증된 성인에게는 성애물 같은 훨씬 더 많은 것을 허용할 것”이라고 밝혔다.

이후 올트먼 CEO의 엑스 계정에는 이를 반대하며 비판하는 댓글이 이어졌다.

비판자들은 현실에서 이용자 연령 확인이 제대로 이뤄지지 않아 어린이·청소년의 성인 콘텐츠 접근을 막기 어렵다고 지적했다. 또 성인 이용자라 해도 성도착증 등 정신건강 문제를 더 심화할 수 있다고 주장했다.

하지만 올트먼 CEO는 이날 올린 글에서 “우리는 세계의 선출된 도덕 경찰이 아니다”(we are not the elected moral police of the world)라고 선을 그었다.

그는 “사회가 다른 적절한 경계(예를 들어 R등급 영화)를 구분하는 것과 같은 방식으로, 우리도 여기서 비슷한 것을 하고 싶다”고 했다.

이어 “성인 이용자를 성인답게 대하는 원칙도 매우 중시한다”며 “AI가 사람들의 삶에서 더 중요한 역할을 하게 됨에 따라 그들이 원하는 방식으로 AI를 사용할 수 있게 많은 자유를 허용하는 것은 우리의 사명에서 중요한 부분”이라고 강조했다.

다만 그는 “물론 이 원칙이 모든 경우에 적용되는 것은 아니다”라며 “예를 들어 타인에게 해를 끼치는 것은 여전히 허용하지 않으며, 우리는 정신건강 위기를 겪는 이용자와 그렇지 않은 이용자를 완전히 다르게 대우할 것”이라고 말했다.

이와 관련 시민단체 전미성착취반대센터(National Center on Sexual Exploitation)의 헤일리 맥나마라 이사는 이날 성명에서 “성적으로 대상화된 AI 챗봇은 본질적으로 위험하며, 가공된 친밀감으로 인해 실제 정신건강에 해로운 영향을 줄 수 있다”고 비판했다.

정시내 기자 jung.sinae@joongang.co.kr