캐릭터 챗봇, AI생성물 표기 앞장

인공지능(AI) 기본법 관련 AI 투명성 확보 가이드라인 발췌. 이용약관 우수사례로 스캐터랩이 꼽혔다.

스캐터랩 '제타'와 뤼튼테크놀로지스 '크랙' 등 국가대표급 인공지능(AI) 캐릭터 챗봇 서비스가 고지·표시 방법으로 AI기본법상 투명성 확보 의무를 준수하는 것으로 나타났다.

2일 업계에 따르면 스캐터랩은 가시성 워터마크, 뤼튼은 비가시성 워터마크를 서비스 내 각각 도입해 서비스가 AI 생성물을 기반으로 제공됨을 분명히 했다. 두 회사 모두 약관과 서비스 곳곳에 AI로 생성된 캐릭터 등으로 서비스가 제공된다는 사실을 환기하고 있다.

AI 챗봇 서비스 특성상 10대·20대 사용자가 많다는 점을 고려, 현실과 가상 서비스라는 인식을 분명하게 가질 수 있게 하기 위한 선제 조치다.

시장조사업체 와이즈앱·리테일에 따르면 지난해 10월 기준 스캐터랩 제타 월간 활성 사용자 수(MAU)는 336만명, 크랙 등 뤼튼 서비스 MAU는 221만명으로 오픈AI 챗GPT(2125만명)에 이어 2~3위를 기록했다.

특히 제타는 한국인이 가장 오래 사용한 AI 서비스로 조사됐다. 7362만 시간으로 챗GPT(4828만 시간)를 앞섰다. 뤼튼은 898만 시간으로 3위를 기록했다. 두 서비스 모두 사용자 수와 사용시간 모두 톱3에 포함된 서비스로, 10대 등 사용자 혼선 방지를 위해 AI 투명성 확보가 필요한 서비스로 풀이된다.

스캐터랩 '제타' 서비스 이용 중 캡처 예시. 캡처본 우하단에 '제타(zeta)'라는 워터마크가 뜬다. ⓒ스캐터랩

스캐터랩은 AI기본법 시행 전부터 서비스 캡처본에는 AI가 생성한 문구라는 것을 인지할 수 있게 멘트 우하단에 워터마크를 입혔다. 제타 서비스가 AI 기반 가상 서비스임을 끊임없이 각인시키는 것에서 나아가 서비스 밖에서도 해당 캡처본이 AI 생성물임을 알 수 있게 조치한 것이다.

특히 제타의 '캐릭터 메시지는 AI가 생성하기 때문에 부정확하거나 부적절할 수 있어요' 등 이용약관은 정부 AI기본법 'AI 투명성 확보 가이드라인'에서 우수사례로 꼽혔다.

뤼튼도 크랙 등 자사 서비스가 AI 생성물을 제공한다는 것을 강조하고 있다. AI기본법상 AI가 생성한 텍스트·이미지 등에 대해 AI 생성물임을 알리는 문구를 적용했다.

또 약관에서 회사 관련 모든 서비스·운영·제작·제공에 AI가 적극 활용되며 대다수 기능이 생성형 AI를 기반으로 운용·제공한다는 것을 명시하고 있다.

뤼튼 AI 캐릭터 챗봇 '크랙' 앱 서비스. ⓒ구글플레이스토어

생성된 텍스트 관련 '이 대화는 AI로 생성된 가상의 이야기입니다'라며 텍스트, 이미지 생성 과정에서도 'AI로 생성된 이미지를 생성하는 중입니다', 'AI로 생성된 이미지입니다' 등 형태로 AI 생성 사실을 적극 알린다.

AI 생성 영상 서비스와 AI 생성 이미지에도 AI기본법 시행에 맞춰 비가시성 워터마크를 우선 적용했다. 워터마크 확대 적용과 서비스 고도화를 위해 대내외 기술·서비스를 검토, 테스트를 진행하고 있다. 외부 게재 등 다양한 상황을 대비하기 위한 기술 고도화도 병행 중이다.

업계 관계자는 “AI 투명성 확보는 사용자가 AI로 생성한 콘텐츠임을 분명하게 인지할 수 있도록 하기 위한 이용자 보호 성격의 규제”라며 “월간 200만~300만명 이상이 사용하는 대표 서비스가 규제 유예기간 임에도 고지·표시로 의무를 먼저 이행한 것은 긍정적”이라고 평가했다.

박종진 기자 truth@etnews.com