"오픈AI, 챗GPT로 쓴 표절 99% 잡아내는 기술 개발...공개는 안해"

챗GPT 개발사 오픈AI가 과제나 논문 등에 학생들이 부정으로 챗GPT를 사용했는지 여부를 체크할 수 있는 기술을 이미 개발한 상태로 확인됐다. 다만 이용자들의 반발과 기술의 악용 가능성 등을 고려해 공개하지 않고 있다.

[이미지출처=AP연합뉴스]

4일(현지시간) 월스트리트저널(WSJ)에 따르면 오픈AI는 약 1년 전부터 이 기술을 출시할 준비가 돼 있는 상태다. 한 관계자는 "그저 버튼만 누르면 되는 문제"라고 설명했다. 이는 챗GPT가 생성한 콘텐츠에 '워크마크'가 표시돼 이를 식별하는 방식으로, 전체 문서 또는 일부가 챗GPT에 의해 작성됐을 가능성이 얼마인지에 대한 점수를 제공한다. 이에 따라 과제, 논문 등이 챗GPT가 작성한 것인지를 99.9% 정확도로 식별할 수 있다.

오픈AI는 2022년11월 챗GPT를 출시하기 전부터 이러한 식별 도구에 대해 논의해왔다. 한 관계자는 그때부터 투명성이냐, 더 많은 사용자 유치냐를 두고 내부적으로 논쟁이 이어져 왔다고 분위기를 전했다. 오픈AI가 챗GPT 충성 사용자들을 대상으로 실시한 설문조사 결과, 이용자의 3분의 1은 이 부정행위 감지 기술이 도입되면 챗GPT를 사용하지 않을 수도 있다고 답했다. 또한 응답자의 69%는 부정행위 탐지 기술 결과가 AI 사용에 대한 거짓 비난으로 이어질 것이라고 보는 것으로 나타났다.

특히 오픈AI는 이 기술이 영어를 모국어로 사용하지 않는 다른 언어 사용자에게 불리하게 작용할 수 있다는 점, 누군가 이 기술을 악용해 특정 사람이나 그룹을 공격할 수도 있다는 점 등을 우려하고 있는 것으로 알려졌다. 내부적으로는 해당 기술로 인해 챗GPT의 글쓰기 품질이 손상시킬 수 있다는 우려도 제기되지만, 올 초 테스트에서 악영향이 없음을 확인했다고 소식통은 덧붙였다. WSJ는 "오픈AI 내부에서는 기술 공개 범위를 두고도 결정하기 어렵다는 광범위한 공감대가 확인된다"면서 "해당 식별 도구를 너무 적은 사람이 갖고 있을 경우 유용하지 않을 것이며, 너무 많은 사람이 접근하면 악용될 수 있을 것"이라고 전했다.

생성형 AI는 단 몇초 만에 전체 에세이나 논문을 만들어낼 수 있다. 이에 따라 일선 학교에서는 학생들의 AI 부정행위를 막기 위해 이 기술 공개를 원하고 있는 상황이다. 뉴욕시 고등학교 영어 교사인 알렉사 구터먼은 WSJ에 "엄청난 문제"라며 "함께 일하는 모든 교사가 이야기했던 문제"라고 말했다. 비영리 단체인 민주주의 기술 센터의 최근 조사에 따르면 학생들이 AI를 이용해 과제를 했다고 생각하는 미국 중고등학교 교사는 59%에 달했다. 이는 1년 전보다 17%포인트 늘어난 수치다.

오픈AI를 이끄는 샘 올트먼 최고경영자(CEO)와 미라 무라티 최고기술책임자(CTO) 역시 해당 기술에 대한 논의에 참여했다. 올트먼 CEO는 프로젝트 자체는 장려했지만 공개하는 방안을 추진하지는 않았다고 소식통은 전했다.

조슬기나 기자 seul@asiae.co.kr