AI가 쓴 글은 잡고 사람 글은 지킨다…DGIST, 텍스트 워터마킹 기술 개발

텍스트 워터마킹 기술 ‘BREW’를 개발한 DGIST 김영식 교수(가운데)와 김호은 대학원생(왼쪽), 김조은 대학원생(오른쪽)./ DGIST제공

생성형 인공지능(AI)이 작성한 글을 높은 정확도로 판별하면서도 사람이 쓴 글을 AI가 작성한 것으로 잘못 인식하는 오류를 획기적으로 줄인 기술이 국내 연구진에 의해 개발됐다.

DGIST는 전기전자컴퓨터공학과·인공지능전공 김영식 교수 연구팀이 AI가 생성한 텍스트에 디지털 워터마크를 삽입하고, 문장이 수정되거나 훼손된 이후에도 AI 생성 여부와 출처를 정확하게 검증할 수 있는 블록 기반 텍스트 워터마킹 기술인 ‘BREW(Block-wise Reliable Embedding for Watermarking)’를 개발했다고 2일 밝혔다.

생성형 AI의 활용이 급속히 확산되면서 뉴스와 보고서, 과제, 창작물 등의 출처를 확인하는 기술의 중요성이 커지고 있지만, 기존 텍스트 워터마킹 기술은 사람이 작성한 일반 문서까지 AI 생성물로 잘못 판별하는 오탐률이 높아 상용화에 한계가 있었다.

연구팀은 글을 여러 개의 블록으로 나눠 각각 독립적으로 워터마크를 검증하는 방식을 적용해 이러한 문제를 해결했다. 특히 단어를 동의어로 바꾸거나 문장 구조를 변경하는 방식으로 워터마크를 훼손하려는 시도에도 ‘윈도우 시프팅(Window-Shifting)’ 기법을 통해 문장 정렬을 복원, 워터마크를 안정적으로 추적할 수 있도록 설계했다.

실험 결과 AI가 생성한 문서의 10%를 동의어로 교체한 환경에서도 96.5%의 탐지율을 유지했으며, 약 200단어 분량의 짧은 글에서도 우수한 성능을 보였다. 특히 사람이 작성한 문서를 AI 생성물로 잘못 판단하는 오탐률은 2% 수준까지 낮춰 기존 기술의 한계를 크게 개선했다.

연구팀은 이번 기술이 생성형 AI를 악용한 가짜뉴스와 허위정보 유포를 막는 AI 포렌식 기술은 물론 디지털 저작권 보호와 콘텐츠 진위 검증 분야에서도 활용될 것으로 기대하고 있다.

김영식 DGIST 교수는 “이번 연구는 사람이 작성한 글을 AI가 쓴 것으로 오인하는 기존 기술의 문제를 해결하고, 텍스트 훼손에도 강인한 워터마킹 기술을 구현한 것이 가장 큰 성과”라며 “가짜뉴스 대응과 디지털 저작권 보호를 위한 핵심 기반 기술로 발전시켜 나가겠다”고 말했다.

이번 연구는 DGIST 김조은·김호은 대학원생과 울산대학교 진동섭 교수가 공동 수행했으며, 과학기술정보통신부와 정보통신기획평가원(IITP)의 지원을 받아 진행됐다. 연구 성과는 인공지능 분야 최고 권위 학회인 ‘ICML 2026’에 채택됐으며, 연구팀은 이달 서울 코엑스에서 열리는 ICML 2026에서 관련 내용을 발표할 예정이다.

/김락현기자 kimrh@kbmaeil.com