구글, 티 안나는 '워터마크'로 AI 이미지 구분한다

딥마인드 'Synth ID' 공개
픽셀 단위 미세 워터마크로
AI 생성 이미지 구분 가능

[서울경제]

구글 딥마인드가 인공지능(AI) 생성 이미지에 보이지 않는 워터마크를 적용하는 ‘신스(Synth)ID’ 기술을 공개했다. 로고를 넣는 일반적인 워터마크와 달리 AI만 파악할 수 있는 픽셀(점) 단위 흔적을 남겨 생성된 이미지를 식별하는 방식이다. 당장은 구글 이미지 모델에만 적용되지만 널리 사용될 경우 AI 사진을 이용한 ‘가짜 뉴스’ 등을 막을 수 있을 것으로 기대된다.

신스ID가 적용된 사진. 좌측은 신스ID가 구분할 수 있는 워터마크가 담겼지만 사람 눈으로는 구분할 수 없다. 사진제공=딥마인드

29일(현지 시간) 딥마인드는 구글 클라우드 컨퍼런스에서 AI 생성 이미지에 대한 워터마크·식별도구 ‘신스ID’를 공개했다. 신스ID는 눈에 보이는 워터마크를 넣거나 파일에 AI로 생성됐음을 기록하는 대신, 이미지를 구성하는 점 하나하나에 AI로 만들어졌다는 흔적을 남긴다. 현재 가장 널리 쓰이는 AI 이미지 생성툴인 ‘달리(DALL-E)2’는 이미지 하단에 작은 워터마크를 남겨놓지만 이 부분을 잘라내는 방식으로 우회가 가능하다. 반면 신스ID는 워터마크 부분을 잘라내거나 파일을 변조해도 식별할 수 있다. 또 필터를 씌우거나 압축해 화질이 떨어지더라도 여전히 AI 이미지임을 파악한다.

신스ID 자체도 AI 학습으로 만들어진 기술이다. AI 학습 특성상 워터마크가 남겨진 이미지를 100% 식별할 수는 없다. 대신 워터마크가 포함될 ‘가능성’이 있는 이미지와 워터마크가 매우 높은 확률로 포함된 이미지는 구분할 수 있다. 가짜일 가능성이 있는 이미지를 파악해 ‘100% 진짜 사진’을 골라낼 수 있다는 것이다. 딥마인드는 “신스ID는 극단적인 조작에 대한 완벽한 방어책은 아니지만 AI 생성 콘텐츠 작업에 책임감을 더할 수 있다”며 “향후 이미지 외에도 오디오, 비디오와 텍스트 등으로 생성된 AI에도 적용 가능하다”고 설명했다.

신스ID는 구글 생성형 AI 플랫폼인 버텍스AI에서만 우선 적용돼 모든 AI 생성 이미지를 구분할 수는 없다. 장기적으로 유사한 워터마크 기술이 표준화되면 AI 이미지가 가져오는 혼란을 줄일 수 있을 것으로 예상된다. 앞서 마이크로소프트(MS) 등 AI 선두업체들 또한 AI 이미지에 워터마크를 남길 것이라고 밝힌 바 있어, IT업계 전반에서 관련 기술 표준화 논의가 가속화할 전망이다.

윤민혁 기자 beherenow@sedaily.com