‘AI로 쓴 과제 잡는 날 오나’…클로드, 글마다 ‘보이지 않는 워터마크’

EU AI법 따라 모든 클로드에 적용
복사·수정해도 ‘AI 흔적’ 남아
교정·번역만 맡겨도 표시 가능
재작성 땐 사라져…정확도는 비공개

‘AI로 쓴 과제 잡는 날 오나’…클로드, 글마다 ‘보이지 않는 워터마크’ [그림=챗GPT]

앤트로픽이 자사 인공지능(AI) 모델 클로드가 만든 글과 파일에 사람 눈에 보이지 않는 ‘워터마크’를 심기로 했다. 유럽연합(EU)의 AI 규제를 지키기 위한 조치로, AI가 쓴 문장을 기술적으로 가려낼 단초가 마련됐다는 평가가 나온다.

앤트로픽은 지난 2일 발효된 EU AI법의 ‘AI 생성 콘텐츠 투명성 실천규약’에 서명했다고 11일(현지시간) 밝혔다. 이 규약은 AI로 만들거나 편집한 콘텐츠를 다른 시스템이 식별할 수 있는 형태로 표시하도록 요구한다. 앤트로픽은 8월 2일 이후 출시되는 모든 클로드 모델에 표시 기술을 기본 적용하고 기존 모델도 순차적으로 지원하겠다고 했다. 구글·메타·마이크로소프트·오픈AI 등도 같은 규약을 준수하기로 했다.

표시 방식은 두 갈래다. 텍스트에는 문장 자체에 감지 불가능한 워터마크를 짜 넣는다. 앤트로픽은 “워터마크가 텍스트의 일부이기 때문에 복사해 다른 곳에 붙여넣어도 함께 이동하며 일부 편집 후에도 남을 수 있다”고 설명했다. 클로드 API와 클로드, 클로드 코드, 클로드 코워크, 클로드 태그 등 어떤 제품에서 나온 글이든 모델 단계에서 동일하게 적용된다.

다만 앤트로픽은 이 워터마크가 구체적으로 어떤 방식으로 작동하는지는 공개하지 않았다. 학계와 업계에서 통용되는 원리는 이렇다. 거대언어모델(LLM)은 단어(토큰)를 하나씩 확률에 따라 골라 문장을 만드는데 이 확률값을 비밀 규칙에 따라 미세하게 조정해 특정 단어군이 조금 더 자주 나오도록 통계적 편향을 심는다. 사람은 알아채지 못하지만 같은 비밀 규칙을 아는 탐지기는 그 편향을 읽어 AI가 썼을 가능성을 계산한다. 구글 딥마인드가 챗봇 제미나이에 적용한 ‘신스ID(SynthID)’가 현재까지 상용 서비스에 통합된 대표 사례다.

사진과 이미지 같은 파일에는 다른 기술이 쓰인다. ‘C2PA’라는 개방형 표준에 따라 누가 어떤 도구로 만들었는지 등의 정보를 암호화 서명한 꼬리표를 파일에 붙인다. 서명 이후 파일이 조작되면 이를 감지할 수 있다. 어도비·구글·오픈AI 등이 이미 채택한 방식이다.

이렇게 되면 학교 과제나 기업 보고서, 언론 기사에 클로드가 쓴 문장이 섞여 있는지 기술적으로 확인할 길이 열린다. 앤트로픽은 사용자와 제3자가 이 표시를 탐지할 수 있도록 지원하겠다고 밝혔다.

그러나 앤트로픽은 이 기술이 완전하지 않다고 밝혔다. 우선 표시가 발견돼도 클로드가 원저작자라는 뜻은 아니다. 사람이 쓴 글을 클로드로 교정, 번역, 요약만 해도 표시가 남을 수 있어서다. 반대로 표시가 없다고 AI가 만들지 않았다는 보장도 없다. 글을 크게 뜯어고치거나 다른 언어로 번역, 재작성하면 텍스트 워터마크가 사라질 수 있고 문장이 너무 짧아도 신호를 읽어내기 어렵다. 파일 역시 포맷을 바꾸거나 화면을 캡처하면 꼬리표가 떨어져 나간다.

특히 워터마크는 앤트로픽 고유의 비밀 규칙에 묶여 있어 다른 회사 AI가 만든 글은 잡아내지 못한다. 어느 정도까지 수정해야 표시가 지워지는지, 오탐과 미탐 비율이 얼마인지도 공개되지 않았다. AI 작성 여부를 가리는 ‘증거’로 쓰려면 이런 정확도 수치가 필수지만 아직 확인할 수 없는 셈이다. 탐지 도구 역시 추후 기술 문서로 공개하겠다고만 밝힌 상태다.

AI가 만든 콘텐츠를 표시하려는 움직임은 규제와 이용자 반발이 맞물리며 업계 전반으로 번지고 있다. AI 음악 서비스 수노가 최근 곡에 표시를 넣기로 했고 뉴스레터 서비스 서브스택도 AI로 쓴 글을 가려내는 도구를 도입했다. [실리콘밸리 원호섭 특파원]