챗GPT가 대신 해준 과제, 프로그램으로 잡아낸다

챗GPT로 만든 문서를 일부 각색해 GPT킬러로 검사한 결과. 보라색으로 칠한 문장은 '생성형 AI가 쓴 것으로 의심된다'는 뜻.

챗GPT와 같은 생성형 AI(인공지능)를 활용해 대필한 과제물이나 자기소개서를 잡아내는 탐지 프로그램이 출시됐습니다.

논문 표절검사 프로그램 '카피킬러'를 개발한 스타트업 무하유는 오늘 AI가 생성한 문서를 탐지해주는 'GPT킬러'를 선보였습니다.

이 프로그램은 챗GPT가 생성한 대량의 문서를 분석해, 사람이라면 쓰지 않는 단어와 어순 등을 통계화했습니다.

생성형 AI가 만든 글에서는 비유나 시적 허용 같은 언어적 기교가 거의 없는 점 등의 특징이 발견됐고, 프로그램은 이 같은 특징들을 근거로 생성형 AI가 만든 문장인지 아닌지 확률을 보여줍니다.

'GPT킬러'는 지난해 대학, 공공기관, 기업 등 3400여 개 제휴 기관을 대상으로 시범 운영돼왔습니다.

GPT킬러를 개발한 무하유의 신동호 대표

업체 측은 약 95% 정도의 정확성을 갖고 있으며, 특히 해외 유사 프로그램보다 한국어 문서에 대한 정확도가 높다고 설명했습니다.

시범 운영 결과 약 50만 건의 문서가 검사됐습니다. 이 가운데 유형별로 보면 자기소개서의 20%, 과제물의 20%, 논문의 5%가 생성형 AI의 도움을 받은 것으로 의심된다는 결과가 나왔습니다.

신동호 무하유 대표는 "(대학에서) 학생들이 AI를 이렇게 많이 쓰는 줄 몰랐다는 반응이 많았다"며 "과도하게 'AI가 썼다'고 판정해서도, 혹은 AI가 썼는데 놓쳐서도 안 되는데 그 균형을 맞추는 데 중점을 뒀다"고 밝혔습니다.

업체 측은 짧은 문장도 AI가 작성했는지 여부를 탐지할 수 있도록 정확도를 높이는 한편, AI로 만든 표나 그림을 탐지하는 기능도 개발할 계획입니다.

정현우 기자 edge@ichannela.com