“성적 대화 허용된 챗GPT”…한국에서도 가능할까? [뉴스+]

오픈AI, 12월부터 세계 최초 ‘성적 대화 허용 AI’ 공개
성폭력특례법 등 강력 규제에 국내 도입은 ‘법의 벽’논란
성적 콘텐츠 허용 범위 규율할 데이터셋 필요
“AI의 표현의 자유 vs 사회적 안전”…새 논쟁의 서막

[이데일리 김현아 기자] 인공지능(AI) 챗봇이 이제 ‘성인용 대화’까지 지원한다.

오픈AI가 오는 12월부터 성인 인증을 거친 이용자에게 성적인 대화와 콘텐츠 생성을 공식 허용하기로 하면서, AI 챗봇 역사상 사실상 세계 최초의 ‘성적 대화 허용 AI’가 등장하게 됐다.

AI 표현의 자유를 둘러싼 논쟁이 본격화되는 가운데, 성적 콘텐츠를 강하게 규제하는 한국에서는 이 기능 도입이 쉽지 않을 것이라는 전망이 나온다.

올트먼 “성인은 성인답게 대하겠다”…윤리 논란 속 새 도전

샘 올트먼 오픈AI 최고경영자(CEO)는 14일(현지 시각) X(옛 트위터)를 통해 “12월부터 연령 인증 기능을 완전히 도입해 성인 이용자에게는 성애적 대화와 콘텐츠를 허용하겠다”고 발표했다.

그는 “정신건강 문제를 고려해 챗GPT의 표현을 지나치게 제한해왔지만, 정신적 제약이 없는 이용자들에게는 챗봇이 덜 유용하고 덜 인간적으로 느껴졌다”며 “성인 인증을 마친 이용자는 보다 자연스럽고 인간적인 대화 경험을 하게 될 것”이라고 설명했다.

이번 기능은 차세대 모델인 GPT-4o 업그레이드 버전에 적용될 것으로 보인다.

구글·메타는 여전히 ‘금지’…AI 윤리 기준 정면충돌

오픈AI의 결정은 구글·메타 등 경쟁 빅테크와 정반대의 행보다. 구글은 생성형 AI 정책에서 성적으로 노골적인 콘텐츠 생성 금지를 명시하고 있으며, 메타 역시 ‘로맨틱 대화 허용’을 검토하다가 윤리 논란으로 중단했다.

미국 AI 챗봇 ‘레플리카(Replika)’도 한때 성적 대화 기능을 제공했으나, 2023년 이탈리아 개인정보보호당국(DPA)의 제재로 관련 기능을 삭제한 바 있다.

이에 따라 오픈AI는 글로벌 기업 중 처음으로 공식 인증 절차를 거쳐 성적 대화를 허용한 최초의 AI 챗봇으로 기록될 전망이다.

“한국선 불가능에 가까워”…성폭력특례법이 가로막는다

문제는 한국이다. 국내에서는 성폭력범죄의 처벌 등에 관한 특례법(성폭력특례법)이 AI를 이용한 성적 이미지·음성 합성이나 대화 생성 자체를 형사처벌 대상으로 규정하고 있다. 단순 시청이나 저장만으로도 처벌받을 수 있다.

내년 1월 시행되는 ‘AI 기본법’은 AI 윤리와 안전 확보를 명문화해, 성적 대화를 포함한 ‘AI 기반 성인 콘텐츠 서비스’의 국내 도입은 쉽기 않다는 평가도 나온다.

성적 콘텐츠 허용 범위 규율할 데이터셋 필요

최경진 가천대 교수(법학전문대학원, 한국인공지능법학회 회장)는 “AI가 개인 데이터를 이용해 생성한 콘텐츠라도 타인의 얼굴이나 음성을 무단 활용하면 명백한 위법”이라며 “한국은 미국보다 훨씬 더 보수적인 성적 표현물 규제 체계를 갖고 있다”고 말했다.

그는 “구글·메타·오픈AI 모두 글로벌 공통 기준을 따를 가능성이 높아, 한국만의 법적 기준을 반영하기는 현실적으로 어렵다”며 “따라서 정부와 민간이 협력해 허용 가능한 성적 콘텐츠의 범위를 구분한 ‘데이터셋 기반 기술적 자율규제’가 필요하다”고 강조했다.

즉, 우리 사회의 문화적 감수성과 법 기준에 맞는 국내 전용 데이터셋을 구축한 뒤, 글로벌 AI 서비스들이 이를 사후 학습하도록 함으로써 한국 내 성적 서비스 환경을 보호해야 한다는 의미다.

또한 그는 “AI가 타인의 이미지를 학습하거나 생성할 때, 그 목적이 음란한지 여부를 스스로 인식할 수 있는 라벨링 기술 개발이 시급하다”며 “과학기술정보통신부는 보유한 기술력과 자원을 활용해 AI의 ‘경계 판단 기준’을 명확히 정립할 필요가 있다”고 제언했다.

“AI의 표현의 자유 vs 사회적 안전”…새 논쟁의 서막

AI가 인간의 욕망과 감정을 모사하기 시작하면서, 세계는 이제 ‘AI의 표현의 자유’와 ‘사회적 안전’ 사이의 균형을 두고 새로운 논쟁에 직면했다.

오픈AI의 실험이 AI 산업의 진화로 이어질지, 아니면 윤리와 규제의 역풍을 맞을지 그 답은 각국의 사회적 합의에 달려 있다.

김현아 (chaos@edaily.co.kr)

IT/과학