AI가 쓴 글에 '지문' 심는다…앤트로픽, 클로드 '워터마크' 도입

기계 판독 가능한 투명성 표시 텍스트에 융합
대폭 재작성·번역하면 탐지 어려울 수도
이미지·파일에도 출처 메타데이터 적용

AI 챗봇 '클로드' 개발사인 앤트로픽이 AI가 생성한 문서 등에 보이지 않는 식별표식인 '워터마크'를 심기로했디.

앤트로픽은 11일(현지시간) 자사 AI 모델인 클로드가 생성한 콘텐츠에 기계로 판독할 수 있는 투명성 표시 장치를 포함하고 있다고 밝혔다. 지난 2일 발효한 유럽연합(EU)의 AI 관련 법에 따른 조치다.

이에 따라 법 시행 시점 이후 출시된 클로드 모델의 AI 결과물에는 워터마크가 적용됐으며, 이전에 출시된 모델도 순차적으로 기능을 추가하고 있다고 앤트로픽은 덧붙였다.

또 "워터마크가 추가되더라도 답변의 의미나 품질, 가독성을 해치지 않으며, 워터마크가 텍스트 자체에 융합돼 있기 때문에 다른 곳으로 텍스트를 복사해서 붙여 넣거나 일부 편집을 거치더라도 그대로 유지된다"고 설명했다.

그러나 텍스트 길이가 너무 짧거나, 이용자가 AI로 생성한 문장을 대대적으로 재작성하거나 번역한 경우 등에는 워터마크가 감지되지 않을 수 있다.

또 이용자들이 다른 곳에서 쓴 글을 클로드를 통해 교정하거나 번역, 요약한 경우에도 워터마크가 적용될 수 있기 때문에 워터마크가 있다고 해서 반드시 클로드가 해당 글의 원작자임을 뜻하는 것은 아니다.

앤트로픽은 텍스트 외에 이미지나 파일 등으로 생성되는 결과물에도 출처 메타데이터를 부착한다고 밝혔다.

앤트로픽은 이와 같은 투명성 표시를 EU 지역뿐 아니라 클로드를 서비스하는 전 세계에 동일하게 적용하겠다고 밝혔다. 다만 앤트로픽은 이 워터마크를 탐지하는 도구는 아직 공개하지 않고 있다.

앞서 구글도 디지털 워터마크 기술인 '신스ID'를 개발, AI 결과물에 도입한 바 있다.

※CBS노컷뉴스는 여러분의 제보로 함께 세상을 바꿉니다. 각종 비리와 부당대우, 사건사고와 미담 등 모든 얘깃거리를 알려주세요.

CBS노컷뉴스 권신오 기자 ppori5@hanmail.net

진실은 노컷, 거짓은 칼컷

국제