AI 인간 '걸그룹·유튜버' 시대..인간성이 흔들린다

인공지능(AI)을 활용한 20세 여대생 챗봇을 비롯해 걸그룹·아이돌·유튜버 등 각종 ‘가상인간’이 등장하고 있다. 사업 영역이 다변화하며 경쟁이 가열되는 가운데 이들을 둘러싼 혐오·성희롱 등 사회적 부작용도 커지고 있다.

이 때문에 여러 IT 기업들은 AI를 단순히 기술적·비즈니스 관점에서 접근하지 않고 ‘AI 윤리’로 확대해 원칙을 마련 중이다. 정부는 AI 윤리 정책을 수립하는 한편 최대한 기업 자율적으로 준수할 수 있도록 한다는 방침이다.

19일 벤처업계에 따르면 국내 AI 윤리 문제는 ‘이루다 사태’로 본격 촉발됐다. 이루다는 스캐터랩이 지난해 크리스마스를 앞두고 출시한 20세 여대생 콘셉트의 AI 챗봇이다. 문맥을 이해하고 자연스럽게 대화하는 능력으로 화제가 됐다.

하지만 20일 만에 자취를 감췄다. 일부 이용자가 성적인 대화를 유도하고 장애인·성소수자 등에 대한 혐오 발언이 잇따른데 이어 카카오톡 대화내용을 무단으로 수집했다는 문제까지 터지면서 서비스가 중단됐다.

스캐터랩은 개인정보보호법 위반 여부와는 별개로 기술력을 더욱 높인 가상인간을 개발한다는 목표다. 김종윤 스캐터랩 대표는 지난 17일 한 모임에서 “혐오·편향 제거 등 숙제가 많다는 점을 배웠다. 인간수준으로 대화 가능한 AI를 만들겠다”고 밝혔다.

제2의 이루다 외에도 가상인간은 속속 개발되고 있다. 펄스나인의 딥리얼(Deep Real) AI 기술로 탄생한 가상 걸그룹 ‘이터니티’는 오는 22일 유튜브에 첫 싱글앨범 'I'm real'의 뮤직비디오를 공개하며 본격 데뷔한다.

딥리얼 AI는 실사형 가상인물 이미지를 생성하고 직접 촬영한 영상과 합성해 콘텐츠를 제작하는 방식이다. 가상인물의 시선 처리, 얼굴 각도, 입 꼬리 등에 다양한 변화를 줄 수 있어 외모·움직임·표정 등이 실제 사람과 매우 흡사하다.

실존 인물의 얼굴을 교체해 ‘부캐(원래의 자신을 대신하는 새로운 캐릭터)’로 유튜브 활동을 하는 가상인물도 있다. 디오비스튜디오가 딥페이크(Deepfake) AI 기술로 개발한 유튜버 '루이'가 대표적이다.

일반적인 딥페이크가 현실에 있는 누군가의 얼굴을 합성하는 것과 달리 디오비스튜디오는 AI가 사람의 얼굴 데이터를 학습한 뒤 완전히 새 얼굴을 만들어내는 가상얼굴 생성 기술을 개발·적용했다.

이외에도 싸이더스스튜디오엑스의 가상 인플루언서 ‘로지’, 딥스튜디오가 개발한 AI 남성 아이돌 4인(정세진·민서준·조은현·도영원)이 활동 중이다. 마인즈랩은 오는 25일 AI 아바타·음성·시각·언어기술을 집약한 AI 휴먼 ‘M1’을 공개할 예정이다.

가상인간을 향한 학대·성상품화 등 부작용 우려가 커지자 IT 기업들은 AI 윤리 방안을 중점적으로 다루기 시작했다. 네이버는 지난달 17일 AI 윤리 준칙을 공개하고, 카카오도 같은 날 AI 윤리 과정을 신설해 전체 직원을 대상으로 프로그램을 시행한다고 밝혔다.

엔씨소프트는 지난 15일 ESG(환경·사회·지배구조) 경영위원회를 신설하고 ‘AI 시대의 리더십과 윤리’를 핵심 사업으로 정했다. 스타트업 민관협력 지원기관인 스타트업얼라이언스는 올해 인문학적 관점에서 AI 윤리 문제를 심도 있게 다룰 계획이다.

최태범 기자 bum_t@mt.co.kr

머니투데이