GPT스토어에 등장한 김정은 챗봇… “남조선은 나약한 국가”

정치인 챗봇 개발 제한 불구 버젓이
“안전 위협땐 힘 선제동원” 적대적
개발자 이름 외엔 다른 설명 없어
데이터 유출 이어 관리부실 문제

“남조선은 우리 조국과 대비되는 나약한 국가다. 그들은 정치·경제적 결정을 할 때 외세의 영향을 많이 받는다.”

23일 인공지능(AI) 챗봇 장터 ‘GPT스토어’에 올라온 김정은 북한 국무위원장을 모방한 AI 챗봇에게 ‘남한에 대해 어떻게 생각하는가’라고 묻자 이 같은 답변이 돌아왔다. 지난 10일 문을 연 오픈AI의 GPT스토어는 애플리케이션을 사고팔 수 있는 구글의 플레이스토어와 비슷한 개념이다. 코딩 없이 AI 챗봇을 만들 수 있는 기능인 GPTs를 활용해 누구나 자신이 만든 챗봇을 이곳에서 거래할 수 있다.

GPT스토어에서 ‘North Korea(북한)’를 검색하면, 김 위원장과 관련된 AI 챗봇이 3개 이상 뜬다. 최근 오픈AI가 GPT 기반의 정치인 챗봇 개발을 제한했지만, 김 위원장을 따라 하는 AI 챗봇은 GPT스토어에 버젓이 올라와 있었다. ‘김정은 챗봇’은 전쟁을 할 용의가 있냐는 질문에 “전쟁을 일으키는 건 내 목적이 아니다”면서도 “만약 어떤 세력이든 우리 안전을 위협하면 가장 강력한 힘을 선제적으로 총동원하겠다”고 답했다.

이 챗봇에게 미국에 대한 생각을 묻자 “미국은 대한민국과 공모해 대규모 합동군사연습을 재개하는 등 침략적 성격을 갖고 있다”는 적대적 답변이 나왔다. 다만 이 답변은 ‘해당 내용은 콘텐츠 정책을 위반했을 수 있다’는 알림과 함께 떴다. 이 챗봇 개발자에 대해선 ‘이나영’이라는 이름 말고는 다른 설명이 없었다. 피드백 전달 등 개발자에게 연락할 방법도 찾을 수 없었다.

다른 김정은 챗봇은 “남한에 대한 관점은 복잡한 역사와 한반도의 정치적 역동성에 의해 형성된다”며 “남북 간 이념 차이는 있지만, 한국인을 하나로 묶는 민족적, 문화적 유산은 인정할 필요가 있다”는 비교적 온건한 답변을 내놨다. 이 챗봇의 개발자는 ‘V Pictures’라는 이름을 쓰는데, 디자인 관련 AI 등 다른 챗봇도 개발해 거래하고 있었다.

앞서 오픈AI는 올해 미국 대선 등 각국 선거를 앞두고 GPT 모델로 정치인 챗봇을 개발하는 것을 제재하겠다고 밝혔다. 오픈AI는 최근 미국 민주당 경선 후보인 딘 필립스 연방 하원의원을 본뜬 AI 챗봇 ‘딘닷봇’의 GPT스토어 계정을 정지시켰다. GPT 기술이 정치 캠페인에 쓰여선 안 된다는 이유에서였다.

그러나 폐쇄적인 북한의 김 위원장에 대해선 오픈AI의 챗봇 제재가 이뤄지지 않고 있다. 김명주 서울여대 바른AI연구센터장은 “표현의 자유를 중시하는 미국 기업은 김정은 챗봇을 오히려 해학으로 판단했을 수 있다”고 말했다.

현재 GPT 기반의 AI 챗봇은 300만개가 개발됐다. 이 가운데 심사와 등록 절차를 거친 챗봇들이 GPT스토어에서 거래되고 있다. 다만 GPT스토어의 위험 관리가 부실하다는 지적은 끊이지 않고 있다. 최근 GPT스토어에 올라온 AI 챗봇의 프롬프트(명령어) 데이터 유출 논란도 있었다. 업계 관계자는 “AI 챗봇 산업이 안정적으로 자리 잡기 위해선 AI 챗봇 관리 체계가 확실히 갖춰져야 한다”고 말했다.

조민아 기자 minajo@kmib.co.kr