오픈AI ‘성인모드’ 서비스 예고…“유료화 전략 본격”

오픈AI, 챗GPT ‘성인 모드’ 지원 검토 명시
딥시크 쇼크 의식…”경쟁 구도 따른 유료화 전략”
캐릭터챗 ‘성착취’ 논란 우려도…“별도 규제 논의해야”

챗GPT끼리 대화를 나누고 있는 모습 [유튜브 채널 ‘클린존’ 캡처]

[헤럴드경제=차민주 기자] 오픈AI가 향후 ‘성인 모드’를 지원하겠다는 내용을 공식적으로 명시하면서 챗GPT 유료화 전략에 박차를 가하고 있다. 앞서 샘 올트먼 오픈AI 최고경영자(CEO)가 성인 모드를 검토하겠다고 언급한 가운데, 챗GPT 모델 설명서 또한 이를 반영한 것이다.

19일 오픈AI의 ‘최신 모델 사양 공유’는 성인 모드 기능을 검토 중이라는 내용을 추가했다. 오픈AI는 “사용자가 연령에 적합한 맥락에서 성적이거나 잔혹한 장면을 생성할 수 있는 방법을 모색하고 있다”며 “다만 성적 딥페이크, 리벤지 포르노와 같은 잠재적으로 해로운 사용에 대해서는 강경한 입장을 취해야 한다”고 밝혔다.

지난 12일 업데이트된 오픈AI의 ‘최신 모델 사양 공유’ [오픈AI 홈페이지 캡처]

정보기술(IT) 업계와 전문가는 이를 두고 인공지능(AI) 시장에 ‘저비용 고효율’ 충격파를 불러온 딥시크를 의식한 조치라고 평가한다. 딥시크 쇼크로 인해 챗GPT의 경쟁력이 줄어들면서, 오픈AI가 성인 모드로 서비스를 차별화해 본격적인 유료화 전략에 나섰다는 분석이다.

최경진 가천대 법학과 교수는 “성인 모드 검토는 딥시크 등으로 경쟁력이 밀리는 와중, 유료화 검토 과정에서 나타나는 수순”이라고 했다. 문형남 숙명여대 글로벌융합대학 학장 또한 “딥시크와의 경쟁 구도에서 챗GPT만의 차별화를 갖기 위한 선택으로 보인다”고 언급했다.

문제는 챗GPT의 답변 제한이 사라지면서 ‘AI 성착취’ 논란이 심화될 수 있다는 점이다. 앞서 국내에서는 AI 캐릭터챗 서비스를 중심으로 성착취 논란이 촉발된 바 있다. AI 캐릭터챗은 이용자가 AI의 말투, 지식, 대화 스타일 등을 명령해, 원하는 인격을 가진 AI 캐릭터 생성하고 대화할 수 있는 서비스다.

실제 지난 1월 뤼튼테크놀로지스의 AI 콘텐츠 생성 플랫폼 ‘뤼튼’ 등은 AI 성착취 논란에 휩싸였다. 일부 이용자가 뤼튼 ‘캐릭터챗’ 서비스가 제공하는 AI 캐릭터를 성적·폭력적 대상으로 취급하는 등 AI 서비스를 성적으로 악용하면서다. 당시 AI 캐릭터와 선정적인 대화를 나눈 사례가 인터넷 커뮤니티에 떠돌면서 화제가 됐다.

[게티이미지뱅크]

이에 따라 업계와 전문가들은 AI가 제작하는 정보에 대한 국내 규제가 부재, 이에 대한 논의가 필요하다고 지적한다. AI 서비스는 이전의 기타 온라인 정보와 달리 실시간으로 사용자와 상호작용을 하며 ‘관계’를 만드는 특수성을 지니기 때문이다. 이용자가 능동적으로 성적 정보를 다루는 만큼 이전과 다른 성적 위험을 야기할 수 있다는 우려다.

한 AI 서비스 업계 관계자는 “캐릭터챗과 같은 서비스는 성인 콘텐츠를 경쟁력 중 하나로 삼기 때문에 챗GPT의 성인 모드 기능 탑재는 이 같은 시장을 넓히는 요소가 될 것”이라며 “성인 콘텐츠를 수동적으로 받아들이던 이전과 달리 AI를 활용해 능동적으로 정보를 생성할 수 있는 만큼, AI 성착취 등 새롭게 부상한 사회 문제에 대한 논의가 필요하다”고 했다.

최 교수는 “성인 모드를 제공하는 것은 문제가 없지만 제공 정보의 수위가 중요한 문제”라며 “미국 등 타국에서 성인 콘텐츠라고 구분하는 수준의 정보가 우리나라에 그 어떤 규제 없이 제작된다면 논란이 될 것”이라고 했다.

이봉의 서울대 법학전문대학원 교수는 “현행법으로 AI 서비스는 온라인 서비스에 포함돼, AI만이 야기할 수 있는 특정 위험이 나타났을 시 이를 막기 어렵다”며 “AI 성인 서비스에 대한 별도 규제는 부재한 상태”라고 했다.