왜 ‘모나리자’가 ‘고양이’로?…데이터에 독극물 주입했더니 이런 일이

시카고대학교 ‘나이트셰이드’ 연구팀
AI가 명화 무단학습 못하는 기술 등장
AI가 보는 이미지 사람과 다르게 바꿔

제일 왼쪽은 원본 모나리자 이미지. 가운데는 나이트셰이드가 적용된 이미지. 오른쪽은 AI가 보는 이미지. <사진=나이트셰이드팀>

예술가들 그린 그림을 인공지능(AI)이 무단으로 학습시키지 못하게 하는 기술이 등장했다.

28일(현지시간) 테크 크런치에 따르면 시카고 대학교 컴퓨터공학과 벤자오 교수는 아티스트의 그림을 AI가 무단으로 학습하는 것을 막는 프로젝트인 ‘나이트셰이드’를 지난해 10월 출범시켰다. 이 기술은 이미지 데이터에 일종의 ‘독(poison)’을 넣는 방식으로, 그 이미지가 AI 모델 학습에 쓸모없게 만드는 기술이다. 연구팀은 현재 완성된 이 기술을 아티스트들의 이미지에 실제 적용해보고 있다.

이 프로젝트를 주도한 벤 자오 교수는 나이트셰이드를 “회사 냉장고에 넣어둔 음식을 다른 사람이 먹지 못하도록 핫소스를 넣는 것”에 비유했다.

나이트셰이드는 이미지의 픽셀을 미묘하게 변경한다. 사람이 보는 이미지는 그대로이지만, AI가 보는 이미지는 전혀 다르게 바뀐다. 나이트셰이드 연구원들에 따르면 100개 미만의 ‘독’을 탄 이미지 만으로도 AI 모델을 망칠 수 있다.

나이트셰이드 팀의 예시에 따르면 사람이 보기에는 모나리자의 원본 이미지와 변형된 이미지가 동일하지만, AI는 변형된 이미지를 여인의 초상화가 아니라 가운을 입은 고양이로 인식한다.

나이트셰이드 팀은 기술을 통해 저작권자에게 대항할 무기를 제공하는 것을 목표로 하고 있다. 정부의 규제가 아니라 기술을 무기로 AI 학습에 따른 저작권 문제를 해결할 수 있다는 것이다.

자오 교수는 “진짜 문제는 (AI 학습에 관해) 동의와 보상을 받는 것”이라면서 “우리는 콘텐츠 제작자가 무단 학습에 대해 반발할 수 있는 방법을 제공한 것뿐”이라고 설명했다.

아티스트가 인터넷에 올린 이미지는 원칙적으로는 무단으로 학습을 할 수 없다. 하지만 저작권이나 법적인 책임에 신경을 쓰지 않는 기업이 이를 학습에 사용하는 것을 막는 방법은 없었다.

나이트셰이드를 통해 이미지에서는 무단학습을 막을 수 있는 방법이 생길 것으로 예상된다.

[실리콘밸리 이덕주 특파원]