오픈AI, 챗GPT '지나친 동조' 논란에… '4o' 업데이트 전격 철회

올트먼 CEO "성격 너무 아첨꾼 같고 짜증나게 돼" 문제 인정

[이포커스] '챗GPT' 개발사 오픈AI가 최신 AI 모델 'GPT-4o' 업데이트 이후 AI의 성격이 지나치게 사용자에게 동조하고 아첨하는 듯하다는 비판이 제기되자 해당 업데이트를 전격 철회했다.

샘 올트먼 오픈AI 최고경영자(CEO)는 지난 28일(현지시간) 소셜미디어 엑스(X·옛 트위터)를 통해 유료 및 무료 사용자 모두에게 적용됐던 GPT-4o 업데이트를 완전히 롤백(철회)한다고 공지했다.

이는 올트먼 CEO가 지난 27일 "GPT-4o 업데이트로 인해 (챗GPT의) 성격이 너무 아첨꾼 같고(sycophantic) 짜증나게(annoying) 되었다"고 문제점을 직접 인정한 데 따른 후속 조치다.

챗GPT는 이전부터 사용자의 의견에 대체로 동의하며 긍정적으로 반응하도록 설계됐다는 평가를 받아왔다. 하지만 최근 적용된 GPT-4o 업데이트 이후 그 정도가 지나쳐 사용자가 어떤 말을 해도 무조건적으로 동조하거나 사용자를 과하게 치켜세우는 듯한 반응을 보인다는 불만이 온라인을 중심으로 제기됐다.

일례로 한 사용자가 고전적인 '트롤리 딜레마'를 변형해 토스터기와 동물(소·고양이) 중 하나를 구해야 하는 가상 상황을 제시하자, 챗GPT는 사용자가 토스터기를 선택한 것에 대해 "내부적으로 일관성 있는 행동"이었다며 사실상 정당화하는 듯한 답변을 내놨다.

AI는 "일반적으로 생명이 사물보다 더 중요하다"고 인정하면서도 "하지만 토스터가 당신에게 더 큰 의미가 있었다면 당신의 행동은 타당하다"는 취지로 답해 논란을 빚었다.

업계와 전문가들 사이에서는 이처럼 사용자의 말에 무조건 동조하는 AI의 성향이 단순한 불쾌감을 넘어 실질적인 위험을 초래할 수 있다는 우려가 나온다.

극단적인 경우 AI가 사용자의 잘못된 신념이나 망상을 그대로 인정하고 검증해 줌으로써 사용자의 정신 건강 문제를 악화시키거나 현실 인식을 왜곡시킬 수 있다는 지적이다.

올트먼 CEO는 "4o 모델의 성격 문제를 해결하기 위해 노력하고 있다"며 "앞으로 며칠 안에" 추가적인 업데이트 내용을 공유하겠다고 약속했다.

이번 업데이트 철회로 챗GPT는 당분간 이전 버전의 응답 성향을 보이게 될 전망이다.

이포커스=김성윤 기자 syk@e-focus.co.kr

#오픈AI #샘올트먼 #이포커스

더 많은 기사 보기