오픈AI '챗GPT 표절' 잡는 기술 개발

AI 사용여부 정확히 식별
이용자 감소 우려 공개는 안해

챗GPT 개발사 오픈AI가 과제와 논문 등에 학생들이 부정으로 챗GPT를 사용했는지 확인할 수 있는 기술을 개발했지만 이를 공개하지 않고 있다고 월스트리트저널(WSJ)이 4일(현지시간) 보도했다.

소식통 등에 따르면 오픈AI는 약 1년간 이 기술 출시를 준비해왔다. 한 내부 관계자는 “버튼만 누르면 된다”며 사실상 출시를 코앞에 둔 상태라고 전했다. 이 기술은 이용자에게 보이지 않지만 챗GPT가 생성한 콘텐츠에 워터마크가 표시돼 이를 식별하는 방식이다.

이를 토대로 전체 문서에 워터마크가 있을 가능성이 얼마나 되는지 점수를 제공한다. 정확도는 99.9% 수준이다. 오픈AI는 그러나 이 기술의 공개 여부를 두고 약 2년 동안 내부적으로 논쟁해왔다. 사용자 유치와 투명성 사이에서 고민하고 있기 때문이다. 챗GPT 사용 여부가 공개되면 사용자가 현저히 줄어들 수 있어서다. 한 설문조사에서 챗GPT를 자주 사용하는 사람의 3분의 1은 이 부정행위 감지 기술이 도입되면 챗GPT를 이용하지 않을 수도 있다고 답했다.

오픈AI는 사용자 간 형평성도 고려했다. 새로 개발한 기술이 영어를 모국어로 쓰지 않는 다른 언어 사용자에게 불리하게 작용할 수 있다는 점을 감안했다는 설명이다. 워터마킹 기술이 영어 텍스트에 특화돼 있다는 얘기다.

WSJ는 학생의 AI 부정행위를 막기 위해 이 기술 공개를 원하는 학교가 많다고 보도했다. 비영리 단체 민주주의기술센터의 최근 조사에 따르면 학생들이 AI를 이용해 과제를 했다고 생각하는 미국 중·고등학교 교사가 59%에 달했다.

뉴욕=박신영 특파원 nyusos@hankyung.com