여성 아이돌 AI 챗봇과 “짜릿한 대화”…팬들 “성착취 악용”

생성형 AI 챗봇 서비스 ‘알미고’에서 무료와 유료 버전을 소개하면서 성적 대화를 암시하는 듯한 표현을 사용해 팬들이 반발하고 나섰다. 현재 이 소개 문구는 수정된 상태다. ‘RBW AI 채팅 어플 반대 총공 연합’ 제공

(☞한겨레 뉴스레터 H:730 구독하기. 검색창에 ‘한겨레 h730’을 쳐보세요.)

여성 아이돌을 가상인간 캐릭터로 만들어 실시간 대화를 할 수 있도록 한 인공지능(AI) 챗봇 서비스가 성적 대화를 암시하는 듯한 표현을 사용해, 케이(K)팝 팬 등이 소속사를 상대로 비판 행동에 나섰다. 아이돌 소속사와 개발업체가 결국 사과하며 서비스를 철회했지만, 팬들은 “재발 방지 대책이 필요하다”며 후속 조치를 요구하고 있다.

지난 5일 아이돌 그룹 마마무, 원어스 등이 소속된 엔터사 ‘알비더블유(RBW)’는 일본 공식 엑스(X, 옛 트위터) 계정을 통해 인공지능 채팅 앱 ‘알미고’와의 협업 소식을 전했다. 해당 앱을 휴대전화에 깔고 회원 가입을 하면 아이돌 멤버들의 사진·음성 데이터 등으로 만든 인공지능 캐릭터와 실시간 대화를 주고받을 수 있다는 내용이었다.

해당 서비스는 무료로 이용할 수 있는 ‘베이식’(Basic) 버전과 돈을 내고 더 정교한 대화를 나눌 수 있는 ‘프라임’(Prime) 버전으로 나뉘었다. 문제는 해당 앱에서 유료 버전을 소개하는 문구에서 비롯됐다. 유료 버전은 “풍부하고 짜릿한 대화를 즐길 수 있다”는 문구와 함께, 빨간색으로 ‘스파이시’(Spicy)라고 쓴 강조 표시와 “대화 커스터마이징(맞춤화)은 프라임 이용 시에만 반영된다”는 안내가 덧붙여져 있었다. 곧바로 온라인 공간을 중심으로 ‘해당 앱에서 여성 아이돌이 성착취 대화에 악용될 수 있다’는 우려가 나왔다. 해당 앱에서 인기 캐릭터라고 소개된 가상인간 캐릭터 중에선 성적인 모습을 강조하는 여성 캐릭터가 여럿 전시된 점도 이런 우려를 확산하는 데 영향을 미쳤다.

여러 아이돌 팬덤은 앱 장터에서 해당 앱을 ‘부적절한 앱’으로 신고하는 방법을 공유했으며, 일부 팬들은 온라인을 기반으로 ‘알비더블유 인공지능 채팅 어플 반대 총공 연합’(연합)을 꾸리고 소속사를 상대로 ‘#알미고 철회해’ 등을 문구로 한 해시태그 행동에 나섰다. “딥페이크 및 인공지능 기술의 악용이 사회적 문제로 대두하는 현시점에서, 소속사가 아티스트를 보호하기는커녕 이들의 초상과 목소리를 기반으로 특정 소비자층의 성적 욕망을 자극하며 수익을 추구하는 행위는 결코 용납될 수 없다”(연합 성명서 중)는 이유에서다. 여러 팬이 “인권 침해”, “존엄성 훼손” 우려를 제기하고 있다.

여성 아이돌이 가상인간으로 입점한 해당 앱에는 성적 매력을 강조하는 다른 가상인간 캐릭터들이 이미 존재해 팬들의 우려를 키웠다. ‘RBW AI 채팅 어플 반대 총공 연합’ 제공

소속사는 곧바로 사태 수습에 나섰다. 알비더블유는 지난 6일 공식 계정을 통해 “물의를 일으킨 점 팬분들께 사과말씀 드린다. 알미고(앱)에서 아티스트(아이돌) 캐릭터는 삭제 조치하겠다”며 밝혔다. 재발 방지도 약속했다. 해당 앱을 제작·운영하는 기술 스타트업 ‘클레온’도 7일 대표 명의 입장문을 내고 “(인공지능) 기술을 통해 창작의 자유로움을 보호하면서 불법적인 행위를 차단하는 방향으로 나아가고자 한다. 하지만 이번 사태에서는 충분히 소통하지 못한 부분이 있었다”며 “알비더블유 쪽과 논의를 통해 우리와 계약한 모든 연예인들에 대한 콘텐츠는 즉시 내리기로 했다”고 밝혔다. 현재 알미고 앱에선 아이돌 캐릭터가 모두 사라진 상태다.

진승혁 클레온 대표는 9일 한겨레에 “애초에 (앱에서) 아티스트(아이돌)와의 성적인 대화는 불가능하다. 인공지능 윤리를 지키기 위한 기술적 조치를 취해둔 상태”라고 설명했다. 그는 또한 “이 프로젝트는 지난해 1월부터 시작됐으며 아티스트(아이돌)들에게도 소속사를 통해 내용을 충분히 전달했으나, (소통이 서로) 어긋난 부분이 있는 것 같다”고 덧붙였다.

하지만 팬 연합 쪽은 “소속사의 공식 입장문은 고작 다섯 문장으로, 서비스 중단의 배경, 향후 서비스 재개 여부, 재발 방지 대책 등 중요한 내용이 전혀 포함돼 있지 않았다. 아이돌에 대한 사과 역시 빠져있다”며 추가 입장을 촉구하고 있다. 엑스에 ‘총공’ 계정을 만든 ㄱ씨는 한겨레에 “지난해에도 알비더블유와 클레온이 ‘크리챗’이란 인공지능 챗봇 서비스를 제공하려다가 팬들 반대로 오픈베타테스트 뒤 서비스를 종료했었는데, 이번에 그때와 비슷한 서비스를 다시 선보인 것이라 더욱 민감하게 반응할 수밖에 없었다”고 했다. 연합 쪽은 ‘소속사 추가 대응이 필요하다고 판단한 이유’에 대해 “다른 (생성형 챗봇 서비스) 사례를 보면, (업체에서) 직접적으로는 선정적인 대화가 불가능하게 설계됐다고 해도 특정 명령어로 우회가 가능하다는 것을 알 수 있고, 이를 악용한 사례도 흔히 찾아볼 수 있어 해명이 충분하지 않다고 판단했다”고 했다.

김효실 기자 trans@hani.co.kr