챗GPT가 쓴 글에 '보이지 않는 식별 신호’…EU서 먼저 적용

[챗GPT '이미지 생성' 시 광고 시범 테스트 (오픈AI 제공=연합뉴스)]

챗GPT가 작성한 글인지 확인할 수 있도록 텍스트에 눈에 보이지 않는 식별 신호를 심는 기능이 유럽에서 먼저 도입됩니다.

오픈AI는 현지시간 5일 유럽연합(EU) 인공지능법의 생성형 AI 투명성 규정에 대응해 자체 텍스트 워터마크 기술인 ‘텍스트그레인(textGrain)’을 도입한다고 밝혔습니다.

텍스트그레인은 글 속에 별도의 문자나 표시를 삽입하는 방식이 아닙니다. AI가 문장을 만들면서 다음 단어나 토큰을 선택할 때 특정한 통계적 패턴이 남도록 조정하고, 별도의 탐지기가 이 패턴을 분석해 오픈AI 모델이 생성하거나 처리한 글인지 판단하는 방식입니다.

사용자가 글을 읽을 때는 표시가 보이지 않습니다. 오픈AI는 워터마크를 적용해도 답변의 성능이나 가독성에는 의미 있는 차이가 없었다고 설명했습니다.

다만 모든 AI 글을 정확하게 가려낼 수 있는 것은 아닙니다. 글이 짧거나 수학처럼 선택할 수 있는 표현이 제한적인 콘텐츠에서는 탐지 정확도가 낮아질 수 있습니다. 사람이 생성된 문장을 나중에 고치는 경우에도 워터마크 신호가 약해집니다.

오픈AI가 400토큰 분량의 글을 대상으로 시험한 결과 단어 10%를 유의어로 바꾸자 탐지율은 약 92%에서 66%로 떨어졌습니다. 단어의 25%를 바꿨을 때는 탐지율이 17%까지 낮아졌습니다.

워터마크가 탐지되지 않았다고 해서 사람이 직접 작성한 글이라고 단정할 수도 없습니다. 반대로 워터마크가 확인되더라도 누가 챗GPT를 사용했는지, 사람이 얼마나 수정했는지, 해당 내용이 사실인지를 판별해주는 것은 아닙니다. 텍스트 워터마크는 앞으로 몇 주에 걸쳐 EU 지역의 챗GPT와 코덱스 이용자에게 적용됩니다.

오픈AI 개발자용 응용프로그램 인터페이스(API)는 전 세계에서 워터마크 기능을 선택적으로 사용할 수 있도록 하되 기본 설정은 꺼진 상태로 운영합니다. 워터마크 탐지 도구는 우선 승인된 연구자와 전문기관에만 제공합니다.

오픈AI에 앞서 앤트로픽도 클로드에 유사한 AI 생성물 식별 기능을 적용했고, 구글 역시 제미나이에 텍스트 워터마크 기술인 ‘신스ID-텍스트’를 적용하고 있습니다.

챗GPT 광고 방식에도 변화가 생깁니다. 오픈AI는 같은 날 챗GPT에서 이미지를 생성할 때 시각형 광고를 보여주는 새로운 광고 형식을 미국에서 시범 운영한다고 밝혔습니다. 테스트는 이달 중 미국 일부 광고주를 대상으로 시작됩니다. 광고는 별도로 표시되고 사용자가 생성하는 이미지와도 분리됩니다.

오픈AI는 광고가 챗GPT 답변 내용에는 영향을 미치지 않으며 이용자의 대화 내용도 광고주에게 공개되지 않는다고 설명했습니다.

당신의 제보가 뉴스로 만들어집니다.SBS Biz는 여러분의 제보를 기다리고 있습니다.홈페이지 = https://url.kr/9pghjn

저작권자 SBS미디어넷 & SBSi 무단전재-재배포 금지