오픈AI, 챗GPT 표절 탐지기 개발했지만 미공개

챗GPT 워터마크 99.9% 정확도로 인식…알트먼·무라티, 출시에 소극적

(지디넷코리아=김미정 기자)오픈AI가 챗GPT로 표절한 글을 탐지할 수 있는 도구를 보유하고 있음에도 이를 공개하지 않는 것으로 드러났다.

월스트리트저널(WSJ)은 4일 오픈AI가 약 1년 동안 챗GPT 표절 검사기 출시 준비를 진행했으며 이후 2년간 공개 여부에 대해 논쟁했다는 점을 내부 문서 통해 단독 보도했다.

이 도구는 챗GPT로 작성된 글에 워터마크를 인식할 수 있다. 현재 워터마크는 사람 눈에 보이지 않지만, 해당 도구로 확인할 수 있다. 탐지기는 전체 문서나 일부 문서가 챗GPT로 작성됐을 가능성을 점수로 표시한다. 내부 문서에 따르면 정확도가 99.9%다.

샘 알트먼 오픈AI CEO (사진=지디넷코리아 DB)

현재 회사 내부에선 도구 출시에 대한 의견이 엇갈린 것으로 전해졌다. 출시를 지지하는 한 직원은 "챗GPT가 편리함을 제공하는 것만큼 윤리적인 장치도 필수적"이라고 주장했다.

챗GPT는 명령어 한 줄만으로도 몇 초 만에 에세이나 연구 논문 전체를 작성할 수 있다. 그동안 학생들은 챗GPT 결과물을 과제에 활용해 표절을 진행했다는 사례가 잇따라 전해졌다. 미국 뉴욕시 고등학교에서 영어와 저널리즘을 가르치는 교사 알렉사 커터맨은 "그동안 교사들끼리 챗GPT 표절 문제에 대해 끊임 없이 우려해 왔다"고 WSJ에 말했다.

샘 알트먼 오픈AI 최고경영자(CEO)와 미라 무라티 최고기술책임자(CTO)도 표절기 출시를 논의한 것으로 전해졌다. 내부 소식통에 따르면, 알트먼 CEO와 무라티 CTO가 해당 도구 개발 프로젝트를 추진했지만 출시에는 소극적이었다.

WSJ은 오픈AI 직원들이 챗GPT 사용자가 워터마크를 고의로 지워 표절 감지를 피할 수 있다는 점을 우려한다고 보도했다. 예를 들어 챗GPT로 생성한 텍스트를 다른 언어로 번역한 뒤 원문으로 재번역하면 워터마크가 사라진다. 이럴 경우 표절기는 워터마크를 인식할 수 없다.

해당 도구에 접근할 수 있는 사용자 범위 정하는 것도 문제다. 극소수 사용자만 탐지기를 이용할 수 있으면 효율성이 낮고, 모든 사람이 이를 활용할 수 있으면 악용될 소지가 있기 때문이다.

현재 오픈AI 내부에서는 이 탐지기를 학교에만 공급하는 것으로 의견을 모았다. 교사나 교수들이 AI로 작성된 논문과 표절 작업을 식별하기 위해 이 도구를 유용하게 이용할 목적이다. 이 외에도 표절 작업 식별에 도움 주는 외부 회사에 제공하자는 의견도 나왔다.

오픈AI 관계자는 "텍스트 워터마킹은 기술적으로 훌륭하지만 중요한 위험성을 갖고 있다"며 "AI 생태계에 미칠 수 있는 영향을 고려하는 등 신중한 접근 방식이 필요하다"고 밝혔다.

김미정 기자(notyetkim@zdnet.co.kr)