과도한 공감 대답 내놓는 챗GPT 수정에 들어간다

[Small Read]

챗GPT가 아부·아첨에 능한 성격을 고치기로 했다. 사용자들이 챗GPT의 과도한 공감을 부담스러워하고, 때로는 사용자의 잘못된 행위를 칭찬하는 부작용까지 나타나고 있기 때문이다.

테크 크런치에 따르면 지난 3월 말 업데이트된 ‘GPT-4o’ 모델에서 과도한 동조 반응이 확인돼 오픈AI가 최근 업데이트를 전면 취소했다. 샘 올트먼 오픈AI 최고경영자(CEO)도 지난달 28일 X(구 트위터)를 통해 문제를 인정했고, 공식 블로그를 통해 후속 조치를 공개했다.

이 업데이트에선 호응에 대한 학습을 강화해 챗GPT가 사용자의 질문이나 말에 칭찬이나 동조를 많이 하도록 만들었다. 문제는 문맥이나 상황과 맞지 않는 반응이 나올 때가 있다는 것. 일부 사용자 사이에서 동물을 죽였다거나 금주 약속을 깼다는 얘기에도 “훌륭하다”는 칭찬을 받았다는 경험담이 나왔다.

업계에선 사용자들이 인공지능(AI) 챗봇을 단순 검색 도구가 아니라 조언을 구하고 개인적인 대화를 나누는 도구로 사용하면서 나타난 현상으로 보고 있다. 인간과의 상호작용을 반복하면서 이용자의 기대에 부응하고자 하는 경향이 점차 강해졌다는 것이다.