해킹·19금·타서비스 사칭… 혁신 한다며 관리 손놓은 `AI 스토어`

오픈AI 챗봇 장터 'GPT 스토어'
기업 노하우 터는 프롬프트 해킹
이성친구 표방 챗봇 무방비 노출
유료화 땐 불법·사기 늘어날 듯

구글 '바드' 이름을 그대로 따와 챗봇을 만들어 GPT스토어에 올리기까지 별다른 검증이나 제지가 없었다.

생성형AI(인공지능) 분야 선두주자 오픈AI가 최근 선보인 챗봇 장터 'GPT스토어'는 AI의 대중화와 일상화를 가져올 강력한 파괴력으로 기대를 모으지만 서비스 초기인 지금은 온갖 허점과 부실을 드러내고 있다. 전 세계에서 쏟아지는 관심과 이용자들의 참여 열기에 걸맞은 충분한 관리가 이뤄지지 않고 있는 것으로 분석된다. 국내외 기업의 AI서비스로 둔갑한 짝퉁 AI앱뿐만 아니라 성적 상품화를 노린 '19금' AI봇, 해킹 취약성까지 한계를 드러내고 있다.

대표적으로 논란을 빚고 있는 것은 GPT스토어에 등록된 챗봇을 겨냥한 프롬프트(지시어) 해킹이다. 자신만의 GPT(챗봇)를 만들어 GPT스토어에 등록한 개인이나 기업들의 정보나 노하우 등이 무방비로 털릴 위험이 있다.

현재 스토어에 등록된 AI봇을 선택해 특정 프롬프트를 입력하면 이용자가 이를 만드는 과정에서 어떤 프롬프트를 썼는지 대부분 알아낼 수 있다. 소셜미디어(SNS)나 커뮤니티 등을 통해 그 방법이 공공연하게 공유되고 있다. 그러나 며칠이 흘렀음에도 오픈AI 측에서 별다른 조치를 취하지 않고 있다.

성적 상품화를 노리고 선정성을 띠는 챗봇들도 우후죽순 등장하고 있다. 가상의 이성친구를 표방하는 챗봇들이 대거 쏟아지는 가운데 카마수트라와 같이 성적인 내용을 다루는 챗봇도 등록돼 있다. 오픈AI는 성적으로 부적절한 내용을 다루는 챗봇은 금지한다고 규정하고 있지만 이 역시 관리가 되지 않는 것으로 보인다. 현재 GPT스토어는 연령제한 없이 쓸 수 있다 보니 어린이나 청소년들이 사행성 AI앱에 무방비로 노출될 수 있다.

국내 기업을 포함한 다른 AI서비스로 위장한 챗봇들도 등장했지만 플랫폼 상에서 걸러지지 않고 있다. 네이버 '클로바X'와 유사한 이름의 '클로버X', SK텔레콤 '에이닷'을 연상시키는 '에이아이닷'이 등장했고, 스타트업 업스테이지의 'AskUp(아숙업)'은 대놓고 똑같은 이름을 쓴 서비스가 나와 있다. 직접 구글의 바드(Bard)와 똑같은 이름을 지어 챗봇을 만들어 보니 스토어에 등록할 때까지 전혀 제지가 없었다. 사전 검증이 없다시피 한 셈이다. IP(지적재산권) 침해를 금지한다고 규정하고 있지만 사용자들의 자율적 신고에만 의존하는 구조로는 AI 앱스토어가 온갖 불법과 사기의 온상이 될 우려가 있다는 지적이 나온다.

오픈AI는 GPT 빌더(만든 이)가 수익을 얻을 수 있는 구조를 1분기 중 공개할 예정이다. 이런 관리부재 상태에서 유료화가 도입될 경우 수익을 노린 불법·사기 행태가 더 횡행할 가능성이 점쳐진다.

스마트폰용 모바일앱 거래 장터인 구글 플레이스토어도 초창기에는 악성 앱이 범람했지만 현재는 콘텐츠 등급과 개인정보 처리방침 등 설정을 요구하고 구글의 정책 준수 여부 등 심사를 거쳐야 출시가 이뤄진다. GPT스토어가 자정을 이루지 못한 채 향후 수수료 적용 등 본격적인 수익화를 추진하는 때에도 관리부실 문제가 지속된다면, AI저작권 침해 이슈와 더불어 AI생태계 전반에 악영향이 우려된다.

최경진 한국인공지능법학회장(가천대 법학 교수)은 "LLM(거대언어모델)이 과거 OS(운영체제)처럼 플랫폼 역할을 하면서 AI앱스토어 유형의 사업모델도 각자 수익화를 추구하는 과정에서 확산될 것으로 보인다. 이에 대비해 AI 이용자 보호에 좀 더 초점을 맞출 필요가 있다"며 "과거 정보통신 서비스 사업자들이 자율규제 등의 요구에 따라 변화를 취했던 것처럼 AI플랫폼 기업들도 정보 제공과 매개에 그칠 게 아니라 유통되는 정보에 대해 책임지는 체계를 마련해야 한다"고 짚었다.

팽동현기자 dhp@dt.co.kr