GPT 스토어 문제점도 많다…낮은 신뢰도, 윤리 문제 속출

GPT 스토어는 아직 윤리적으로 문제가 있는 앱을 걸러내지 못하는 등 문제를 보이고 있다. 사진은 챗GPTs로 구현된 가상 연인 챗봇. (챗GPT 화면 갈무리)

GPT 스토어 문제점도 많다

낮은 신뢰도, 윤리 문제 속출

GPT 스토어의 높은 인기만큼, 해결해야 할 문제도 적잖다. 신뢰도가 낮고, AI 윤리를 위반한 챗봇이 성행하는가 하면, 프롬프트 해킹 등 문제가 불거지며 ‘보안이 취약하다’는 지적이 쏟아진다.

현재 가장 큰 문제로 꼽히는 점은 ‘신뢰도’다. 300만개에 가까운 챗봇이 한번에 쏟아지다 보니, 조악한 챗봇 비율이 상당히 높다. 회사가 아닌 개인이 만든 챗봇의 경우 AI가 그럴듯한 답을 지어서 만들어내는 ‘환상’ 문제가 해결되지 않은 경우가 상당수다. 오픈AI가 검수를 거쳐 스토어에 챗봇을 올린다지만, 모든 AI의 성능까지는 검사하지 못한다.

AI 윤리를 위반한 챗봇이 버젓이 올라와 있다는 점도 논란이다. 현재 GPT 스토어에 여자친구 또는 남자친구라는 검색어를 입력하면 다수의 인공지능 연인 챗봇이 등장한다. AI업계에서는 AI를 활용해 만든 가상의 연인을 만드는 것을 ‘지양’한다. 성희롱 문제 등 윤리적 이슈가 걸려 있기 때문이다. 실제 한국에서도 ‘가상 연인’을 표방한 AI 챗봇들이 여론의 거센 질타를 받고 사라진 바 있다. 오픈AI 역시 원칙적으로 가상 연인 챗봇은 배제한다. 오픈AI가 만든 GPT 스토어 이용 약관에는 “로맨틱한 관계를 조성하는 GPT는 허용되지 않는다”는 글이 명시돼 있다. 원칙이 무색하게 가상 연인 챗봇이 무더기로 올라오면서, 오픈AI는 문제 해결 방안을 고심하고 있는 것으로 알려졌다.

최근에는 ‘프롬프트 해킹’ 문제가 터졌다. 특정 문장을 입력하면 챗봇이 스스로 자신의 ‘프롬프트’를 모두 공개하는 사태가 발생했다. 일부 챗봇은 업데이트를 통해 문제를 해결했지만, 대응하지 못하고 해킹당한 챗봇이 상당한 것으로 전해졌다. 프롬프트는 챗봇을 만드는 ‘명령어’다. 프롬프트 유출은 곧 설계도가 공개되는 것과 똑같다. 소프트웨어 개발사에는 치명적인 문제다. IT업계 관계자는 “GPT 스토어가 애플 앱스토어와 구글 플레이스토어 같은 플랫폼으로 자리 잡으려면, 현재 불거지고 있는 윤리, 보안 문제를 최대한 빨리 해결해야 할 것”이라고 설명했다.

[본 기사는 매경이코노미 제2245호 (2024.01.31~2024.02.06일자) 기사입니다]