오픈AI, ‘챗GPT 표절감지 기술’ 개발했지만 공개 안해

WSJ “워터마크로 식별 방식”
공개 시 사용자 감소 불가피

챗GPT 개발사 오픈AI(로고)가 과제나 논문에 챗GPT를 사용했는지 식별할 수 있는 기술을 개발했지만 챗GPT 사용자 감소 등을 우려해 공개하지 않고 있는 것으로 알려졌다.

4일 월스트리트저널(WSJ)은 소식통을 인용해 오픈AI가 약 1년간 이 기술의 출시 준비를 해왔으며 버튼만 누르면 될 정도로 기술 개발을 완료한 상태라고 보도했다. 이 기술은 이용자에게는 보이지 않지만 챗GPT가 생성한 콘텐츠에 표시된 워터마크를 식별하는 방식이다. 이를 토대로 전체 문서에 워터마크가 있을 가능성이 얼마나 되는지 점수를 제공한다. 이 기술은 99.9%의 정확도로 과제나 논문 작성 등에 사용된 콘텐츠가 챗GPT가 생성한 것인지를 식별해낸다고 이 매체는 전했다.

오픈AI는 그러나 기술 공개 여부를 놓고 투명성에 대한 약속과 더 많은 사용자 유치를 놓고 2년 동안 고심해온 것으로 알려졌다. 오픈AI가 챗GPT 충성 사용자들을 대상으로 조사한 결과, 이용자의 3분의 1이 이 부정행위 감지 기술이 도입되면 챗GPT를 사용하지 않을 수 있다고 답했기 때문이다. 또 이 기술이 영어를 모국어로 사용하지 않는 다른 언어 사용자에게 불리하게 작용할 수 있고, 누군가 이 기술을 악용해 특정 사람이나 그룹을 공격할 수 있다는 점도 우려하고 있는 것으로 전해진다. 다만, 일선 학교 등에서 학생들의 AI 부정행위를 막기 위해 기술 공개를 원하고 있어 오픈AI의 고민이 깊다고 WSJ는 전했다.

한편, 페이스북 모회사 메타는 유명 배우 및 인플루언서의 목소리를 자사의 AI 모델에 탑재하기 위한 협상을 진행하고 있다. 블룸버그통신에 따르면 메타는 영국 유명 배우인 주디 덴치, 중국계 아버지와 한국계 어머니 사이에서 태어난 미국 유명 배우 아쿼피나 등과 목소리 사용을 위한 협상을 하고 있다. 이를 통해 이들의 목소리를 자사의 인공지능(AI) 모델인 ‘메타 AI’에 통합할 수 있는 방안을 논의하고 있다. 앞서 챗GPT-4o에 배우 스칼릿 조핸슨과 비슷한 목소리를 사용해 소송에 휘말린 오픈AI 사태를 미연에 방지하기 위해 나선 것으로 풀이된다.

황혜진 기자 best@munhwa.com