AI로 포르노 영상까지?…오픈AI, '콘텐츠 제작 허용' 입장 번복한 이유

NSFW 콘텐츠 생성 방안 검토 소식 후 비판 이어져…오픈AI "포르노 만들 의도 없어"

(지디넷코리아=장유미 기자)챗GPT 개발사인 오픈AI가 최근 포르노나 유혈 표현, 비방 등을 포함한 콘텐츠를 생성할 수 있도록 하는 방안을 검토했다가 반대에 부딪히자 입장을 번복하며 진땀을 뺐다.

11일 IT 매체 기즈모도 등 외신에 따르면 오픈AI는 지난 9일 "인공지능(AI)으로 포르노 등을 만들 의도가 없다"며 "용납할 수 없는 딥페이크를 방지하기 위해 강력한 안전 장치를 갖추고 있다"고 입장을 밝혔다.

이어 "어린이 보호를 최우선으로 생각한다"며 "연령에 적합한 맥락에서 성에 관한 대화를 신중하게 탐색하는 것이 중요하다고 믿는다"고 덧붙였다.

오픈AI '소라'로 제작한 영상 '에어헤드' (영상=오픈AI 링크드인)

오픈AI가 이처럼 해명에 나선 것은 자사 제품을 통해 개발자와 사용자가 책임감 있게 NSFW(욕설, 포르노, 누드, 고어 등 위험한 게시물) 콘텐츠를 생성할 수 있도록 하는 방안을 검토하고 있다는 소식이 전해지면서 비판이 이어졌기 때문이다. 오픈AI는 채팅 AI인 '챗GPT'와 이미지 생성 AI '달리', AI 동영상 생성 서비스 '소라'를 개발한 기업으로, 샘 알트먼 최고경영자(CEO)가 이끌고 있다.

앞서 가디언, 기가진 등 일부 외신들은 오픈AI가 사용자들이 포르노나 유혈 표현, 비방 등을 포함한 콘텐츠를 생성할 수 있도록 하는 방안을 검토 중이라고 보도했다. 또 선정적인 텍스트와 누드 이미지 생성을 앞으로도 금지해야 하는지에 대한 논의도 시작할 것이라고 분위기를 전했다. 다만 딥페이크 생성이 허용돼서는 안 된다는 입장을 갖고 있는 것으로 알려졌다. 이 제안은 AI 도구 개발 방법을 논의하는 오픈AI 문서의 일부로 공개됐다.

미라 무라티 오픈AI 최고기술책임자(CTO)는 "아티스트들이 AI를 통해 표현하는 것에 더 창의적인 환경을 원하고 있다"며 "다양한 분야의 아티스트 및 크리에이터들과 협력하여 무엇이 유용하고 어느 정도의 유연성을 제공해야 하는지 파악하는 중"이라고 밝혔다.

이 같은 소식이 알려지자 업계에선 비판을 쏟아냈다. '안전하고 유익한 AI를 생산한다'는 회사의 목표를 훼손한다는 이유에서다. 올해 노골적으로 제작된 미국 가수 테일러 스위프트의 딥페이크 이미지가 X(옛 트위터)에서 무차별 확산되며 논란이 있었다는 점에서도 우려하는 목소리가 나왔다. X는 테일러 스위프트에 관한 콘텐츠 검색을 일시적으로 금지하며 대응했으나, 이 일로 AI가 생성한 포르노 확산의 위험성이 강조된 바 있다.

이에 영국에서는 노동당이 사람의 나체 이미지를 생성하는 누드화 도구를 금지하는 방안을 검토하고 나섰다. 

클레어 맥글린 더럼대 법학과 교수는 "오픈AI가 NSFW 콘텐츠의 생성을 합법적인 자료로 제한하려는 어떠한 방식에도 회의적"이라고 말했다. 

온라인 성적 학대로부터 아동을 보호하는 자선단체 '인터넷 워치 파운데이션'(Internet Watch Foundation)은 "오픈AI가 실질적인 대책을 마련하지 않고 AI가 만들어내는 피해에 대해 기업이 책임을 지지 않는 것은 매우 유감스럽다"고 비판했다.

장유미 기자(sweet@zdnet.co.kr)