“나 친구 때렸어” “정말 대단해, 잘했어”...아첨꾼 된 챗GPT, 결국

부적절 질문에도 긍정 응답 이어져
챗GPT 성격 문제 공식 인정 후 조치
“다양한 성격 옵션 선택도 고려 중”

챗GPT가 생성한 관련 이미지.

오픈AI가 챗GPT의 ‘과도한 아첨’ 논란이 불거지자 결국 최근의 모델 업데이트를 취소했다.

29일(현지시간) 테크크런치 등 외신에 따르면 오픈AI는 “우리는 부족했으며 이를 바로잡기 위해 노력하고 있다”며 이같이 밝혔다.

이번 조치는 최근 GPT-4o 모델의 업데이트 이후, 챗GPT가 사용자 질문에 지나치게 동조하고 칭찬하는 반응을 보인다는 사용자의 지적이 쏟아진 데 따른 것이다. 최근 챗GPT는 물건을 부쉈다거나 약속을 깼다는 일화 등 부적절한 발언에까지 칭찬을 하며 지나친 긍정적인 반응이 문제로 부각됐다.

샘 올트먼 오픈AI 최고경영자(CEO)는 28일 X(엑스)를 통해 “챗GPT가 너무 아첨해서 짜증나게 됐다. 수정 조치를 진행 중”이라고 문제를 인정했는데, 그로부터 하루만인 29일 업데이트 삭제 조치를 완료했다고 발표했다.

오픈AI는 공식 블로그를 통해 이번 문제의 원인을 “단기적 사용자 피드백에 과도하게 반응한 결과”라고 분석했다. 단기적인 피드백에 지나치게 집중한 나머지, 사용자와 챗GPT의 상호작용이 시간이 지남에 따라 어떻게 변화하는지 충분히 반영하지 못했다는 것이다.

오픈AI는 향후 다양한 성격의 챗GPT 옵션을 제공하는 방향도 검토하고 있다. 오픈AI는 블로그에서 “사용자는 챗GPT의 작동 방식을 더 많이 제어할 수 있어야 하고, 작동 방식에 동의하지 않을 경우 조정할 수 있어야 한다”며 “사용자가 이를 수행할 수 있는 새롭고 간편한 방법을 개발하고 있다”라고 밝혔다.

그 방법에는 사용자가 실시간 피드백을 제공하여 챗GPT와의 상호작용에 직접적인 영향을 미치거나, 여러 성격의 모델 중에서 선택할 수 있도록 하는 방안 등이 고려 중인 것으로 알려졌다.