중국 AI, 반복 명령하자 욕설…텐센트 "모델 이상 출력" 사과

중국 반도체 (PG) [구일모 제작] 일러스트

(베이징=연합뉴스) 한종구 특파원 = 중국의 생성형 인공지능(AI) 서비스가 사용자와의 대화 도중 욕설을 하는 일이 발생해 논란이 일고 있다.

업체 측은 다중 대화 처리 과정에서 모델이 비정상적인 결과를 내놓은 것이라며 긴급 수정했다고 밝혔다.

25일 중국 매체 홍성신문 등에 따르면 시안의 한 변호사는 춘제(春節·중국의 설) 연휴 기간 텐센트의 생성형 AI 서비스 '위안바오'(元宝)를 이용해 새해 인사용 이미지를 제작하던 중 욕설이 포함된 문구가 생성됐다고 밝혔다.

위안바오는 텐센트가 자체 대형언어모델(LLM)을 기반으로 선보인 대화형 AI 서비스다.

이 변호사는 자신의 사진을 업로드한 뒤 "나는 변호사이니 직업 특성에 맞는 새해 인사 이미지를 제작해 달라"고 요청했다.

초기 결과가 기대에 못 미치자 몇 차례 추가 지시를 내렸고, 이 과정에서 "이게 무슨 디자인이냐"는 취지의 불만을 표현했다.

이후 새로 생성된 이미지에 기존의 "새해 복 많이 받으세요, 승진하시길 바랍니다"라는 문구 대신 욕설이 삽입됐다는 것이다.

해당 사례가 소셜미디어를 통해 알려지자 텐센트 측은 25일 사과와 함께 재발 방지를 약속했다.

텐센트는 "모델이 여러 차례 대화를 처리하는 과정에서 비정상적인 결과가 발생했다"며 "관련 문제를 긴급 교정하고 사용자 경험을 최적화했다"고 밝혔다.

이번 사례는 중국이 생성형 AI 경쟁에서 빠르게 존재감을 키우는 가운데 발생했다는 점에서 주목된다.

텐센트, 바이두, 알리바바 등 주요 빅테크 기업들은 잇달아 자체 LLM을 고도화하며 상용 서비스 확대에 나서고 있다.

다만 업계에서는 이번 사례처럼 맥락을 오인하거나 감정 표현을 잘못 학습한 결과가 나오는 비정상 출력 문제가 완전히 해소되지 않은 과제로 지적된다.

이에 대해 중국 광저우일보는 "기술은 죄가 없지만 그대로 두는 것은 방임"이라며 "AI는 사람의 학습 능력과 지식만을 습득해서는 안 되고, 인류의 양심도 계승해야 한다"고 조언했다.

jkhan@yna.co.kr

▶제보는 카톡 okjebo