“이런 XX” 중국 AI챗봇, 사용자에게 잇따른 욕설 논란 [여기는 중국]

[서울신문 나우뉴스]

중국 텐센트가 개발한 AI챗봇이 사용자 요청에 욕설이 포함된 이미지를 생성해 논란이 되고 있다. 사진은 제미나이 이미지

중국 인공지능(AI) 챗봇이 사용자에게 욕설이 담긴 이미지를 생성해 논란이 일고 있다. 이 모델의 욕설 파문은 이번이 처음이 아니다.

27일 중국 언론 펑파이신문에 따르면 중국 설인 춘절을 맞아 신년 인사 카드를 만들어 달라는 요청에 AI 챗봇이 돌연 욕설 문구를 삽입했다. 해당 챗봇은 텐센트가 개발한 위안바오다.

사용자의 요청은 단순했다. 신년 카드를 제작하면서 자신의 AI 프로필에 간단한 새해 인사 문구를 넣어 달라는 것이었다. 그러나 결과물에는 예상치 못한 욕설이 포함됐다. 당황한 사용자가 “너는 로봇인데 왜 욕을 하느냐”고 묻자 위안바오는 “당신의 요구에 따라 프롬프트 문구를 최적화하겠다”고 답했다. 이 같은 반응은 오히려 사용자의 분노를 키웠다.

중국 텐센트가 개발한 AI챗봇이 사용자 요청에 욕설이 포함된 이미지를 생성해 논란이 되고 있다. 펑파이신문 캡처

사용자가 해당 내용을 캡처해 소셜미디어(SNS)에 올리면서 논란은 확산했다. 네티즌 사이에서는 AI 챗봇이 왜 갑자기 공격적으로 반응하느냐는 비판이 이어졌다.

결국 사과는 개발사인 위안바오 측에서 나왔다. 회사는 다중 대화 맥락을 처리하는 과정에서 모델이 비정상적인 출력값을 생성한 것이 원인이라며 문제를 긴급 수정하고 개선 작업을 진행했다고 밝혔다. 이어 사용자 경험을 해친 점에 대해 사과했다.

사실 이 챗봇의 ‘말버릇’ 문제는 이번이 처음이 아니다. 지난달에도 한 사용자가 코드 포맷팅, 즉 코드를 읽기 쉽게 정리해 달라고 요청하자 “네가 못 고치는 거냐”, “남 시간 낭비하지 마라” 같은 공격적인 문구가 출력된 것으로 알려졌다. 당시 위안바오 팀은 인간의 개입은 없었으며 극히 낮은 확률로 발생한 출력 오류라고 설명했다. 팀은 재발 방지를 약속했지만 한 달 만에 또다시 유사 사례가 발생했다.

이처럼 간헐적으로 나타나는 AI 모델의 돌발 발언은 관련 서비스가 안고 있는 과제로 지적된다. 업체 측은 내부 점검과 모델 최적화를 통해 유사 사례를 최대한 줄이겠다고 밝혔지만 일상 속 필수 도구로 자리 잡은 AI 챗봇의 신뢰도에 의문을 제기하는 목소리도 커지고 있다.

이민정 중국 통신원 ymj0242@naver.com