“테일러 스위프트 이젠 울지마”...가짜 다 잡아버리는 기술 나온다는데

오픈AI, 생성이미지에 라벨 부착
구글·메타 이어서 딥페이크 대응

7일 일본 도쿄돔에서 공연 중인 테일러 스위프트 [AP = 연합뉴스]

구글과 메타가 생성형 인공지능(AI)으로 만든 이미지에 ‘라벨’을 붙이는 계획을 발표한 데 이어 챗GPT를 개발한 오픈AI도 같은 정책을 추진하기로 했다.

지난달 세계적인 팝스타 테일러 스위프트의 ‘딥페이크’ 이미지가 확산하면서 AI 부작용에 대한 우려가 커지자 빠르게 대책 마련에 나서고 있는 것이다.

오픈AI는 7일(현지시각) 생성형 AI 플랫폼인 ‘달리3’가 만든 이미지 콘텐츠에 출처와 진위 확인을 위한 연합(C2PA)의 워터마크를 부착한다고 밝혔다. C2PA는 디지털 콘텐츠 출처와 관련된 정보를 확인하는 개방형 표준 기술로 마이크로소프트(MS), 어도비, 인텔 등의 기업들이 주도하고 있다.

C2PA 워터마크는 사람의 눈에는 보이지 않지만 인증 사이트에 해당 콘텐츠를 넣으면 AI가 만든 이미지인지 확인이 가능하다. 오픈AI는 “이번 정책은 디지털 정보에 대한 대중의 신뢰를 높이는 데 도움이 될 것”으로 기대했다.

이미 웹에서는 오픈AI의 달리3를 이용하면 C2PA가 포함돼 있는데 오픈AI는 12일까지 이를 모바일 사용자에도 확대한다는 계획이다. 다만 오픈AI는 “워터마크는 제거할 수 있는 만큼 이것이 딥페이크를 막는 완벽한 정책이라고는 볼 수 없다”라고 덧붙였다.

생성형 AI 시장이 확대되면서 딥페이크 부작용에 대한 우려는 꾸준히 제기돼 왔다. 특히 지난달 테일러 스위프트의 가짜 이미지가 소셜네트워크(SNS)에서 확산하면서 이에 대한 대비책이 필요하다는 목소리가 커지는 상황이었다.

이에 구글이 지난 1일 자사의 생성형 AI 바드 만든 이미지에 라벨을 붙이겠다는 계획을 발표했으며 이어 메타 역시 메타 AI로 만든 이미지뿐 아니라 외부 AI 도구로 만든 콘텐츠에도 라벨을 붙이겠다는 계획을 발표했다. 메타는 “앞으로 몇 달 내에 외부 AI 플랫폼에서 생성된 이미지에 라벨을 붙이고 해당 기술을 고도화해 나가겠다”라고 밝혔다.