"없는 뱀도 만들어 냈다"… 챗GPT의 쓸 데 없는 고집

온라인, "사진 속 뱀 있냐" 질문에 내놓은 챗GPT 답 화제

[파이낸셜뉴스] 최근 한 온라인 커뮤니티에 챗GPT의 오류를 지적하는 글이 화제를 모으고 있다고 22일 YTN이 보도했다.

YTN에 따르면 작성자 A씨는 한 온라인 커뮤니티에 '챗GPT는 환각이 아니라 고집임'이라는 제목으로 글을 올렸다.

해당 글은 A씨가 챗GPT에 나뭇가지와 낙엽이 뒤덮인 사진을 한 장 보여주며 나눈 대화다. "이 사진에 뱀이 있냐"는 A씨 질문에 챗GPT는 "뱀이 있다"고 답했다.

챗GPT는 "뱀처럼 보이는 물체가 있다. 이미지 중앙 아래쪽에서 약간 오른쪽에 있는 갈색 줄무늬 패턴이 뱀의 몸통처럼 보인다"고 설명했다.

뱀이 보이지 않는 A씨가 다시 "뱀의 위치를 붉은색으로 표시해달라"고 요청하자, 챗GPT가 긴 동그라미를 표시한 사진을 제시했다.

사진을 자세히 보니 동그라미가 표시된 위치에 뱀이 있었다. 알고 보니 원본 사진에는 없었던 뱀의 형상을 챗GPT가 그려 넣은 것이었다.

작성자는 "챗GPT는 없으면 만들어서라도 내가 맞다고 우긴다"며 글을 마무리했다.

이후 A씨의 글이 각종 온라인 커뮤니티에서 화제가 된 후 실제로 해당 사진 속에 뱀이 있다는 주장도 나왔다.

한 네티즌은 "원본 찾아보니 고화질로 보니 왼쪽에 작은뱀 있었음"이라고 했다.

챗GPT가 보여준 뱀의 크기나 위치와는 다른 곳이었다.

누리꾼 중 일부는 '챗GPT의 오류'를 지적하며, AI가 자신이 틀렸다는 것을 인지하지 못하고 결과를 과도하게 확신해 고집을 부린다고 비판했다.

YTN은 "전문가들 역시 생성형 AI가 불완전한 데이터나 잘못된 정보를 기반으로 답을 생성할 수 있기 때문에, 사실과 다를 수 있다며 계속해서 경고하고 있다"고 지적했다.
#AI #뱀 #고집 #챗GPT

y27k@fnnews.com 서윤경 기자

IT/과학