'AI 표절' 느는데···갈 길 먼 'AI 잡는' AI 기술

'AI 판별 서비스' 시장 안착에 실패
정확도 낮은 편이어서 도입 꺼려해
오픈AI도 관련 서비스 반년만 철회

국내 한 기업이 제공하는 인공지능(AI) 탐지 서비스를 이용한 결과물. 왼쪽 글은 전부 GPT-4 기반 챗GPT를 활용해 생성해낸 AI 창작물이지만 시스템이 감지해낸 표절률은 12%에 그쳤다.

[서울경제]

인공지능(AI) 기술이 급속도로 발전하는 가운데 AI로 만들어낸 글을 잡아낼 수 있는 각종 ‘AI 판별 서비스’가 시장 안착에 실패하고 있는 것으로 나타났다. AI 판별은 보통 AI가 생성해내는 글이 가지는 특징을 분석해 유사 글을 잡아내는 방식으로 이뤄지는데 사람이 몇 가지 표현을 고치는 방식으로 개입하게 되면 정확도가 크게 낮아진다는 것이 AI 전문가들의 설명이다.

3일 산업계에 따르면 국내 채용 현장에서 AI 표절 관련 서비스 도입률은 낮게 나타나고 있다. 현대차그룹 관계자는 “자체적으로 자기소개서 표절 관련 기술을 적용하고 있다”며 “면접 과정을 통해서 지원자를 검증할 수 있기 때문에 AI 자소서에 대해 크게 신경쓰고 있지는 않다”고 말했다. 또 다른 기업 관계자는 “AI 판별 서비스가 맞을 수도 있겠지만 혹여나 틀릴 시 적격자를 탈락시킬 수도 있어 실제 도입하기는 쉽지 않다”고 전했다.

AI 생성물을 또 다른 AI 시스템을 활용해 걸러내는 것은 주로 AI 글이 가지는 특징을 분석한 후, 유사 특성을 가진 글을 AI 생성물로 분류하는 방식으로 이뤄진다. 오픈AI나 챗GPT나 구글 제미나이 등 AI 모델은 모두 글을 생성할 때 문맥상 특정 단어 뒤에 올 확률이 가장 높은 단어를 기계적으로 배치하는 방식으로 작동하기에 이런 특성을 파악하면 AI 생성물을 판별할 수 있다는 추정에 기초한 방식이다. 하지만 사람이 일부 표현을 고치는 등 개입하면 정확도가 낮아지는 문제가 있어 오픈AI는 지난해 1월 출시한 ‘AI 텍스트 판독기’ 서비스를 같은 해 7월 ‘낮은 정확도’를 이유로 접었다.

최병호 고려대 인공지능연구소장은 “AI 작성 글을 잡아내는 것은 이론적으로 가능하지만 이건 사람이 창작물에 개입하지 않는다는 전제 하의 이야기”라며 “사람이 문장을 추가하고 표현을 고치면 사실상 AI 창작물을 잡기 어려워진다”고 분석했다. 최 소장은 이어 “앞으로 굉장히 빠른 시일 내에 대부분 창작물에 AI가 개입하는 시대가 올 것”이라며 “이에 대한 대비책이나 사회적 공감대를 마련해둘 필요가 있다”고 말했다.

이덕연 기자 gravity@sedaily.com