“정말 테일러 스위프트 맞아?”…인스타에 AI사진 올리면 ‘꼬리표’ 붙는다

메타, 새 정책 예고

미국 팝스타 테일러 스위프트가 7일(현지시간) 캘리포니아주 잉글우드의 소피 스타디움에서 공연하고 있다.[사진 = 연합뉴스]

페이스북·인스타그램을 운영하는 메타(Meta)가 자사 소셜미디어 플랫폼에 ‘AI 생성 이미지’ 라벨을 도입할 것이라고 천명했다.

최근 미국에서는 팝스타 테일러 스위프트마저도 딥페이크 음란물의 피해자가 됐다는 소식에 AI 생성 이미지에 규제가 필요하다는 목소리가 높다. 지금까지는 주로 딥페이크 희생자로 유명인들이 부각됐다면 앞으로는 일반인 피해도 늘어날 가능성이 제기된다.

10일 메타는 공식 홈페이지를 통해 “몇 개월내 페이스북과 인스타그램, 스레드에서 AI로 생성한 콘텐츠에는 라벨(꼬리표)을 붙일 것”이라고 밝혔다.

그동안 자체 AI 도구인 ‘메타 AI’를 사용해 만든 이미지에 ‘AI로 생성됨’(Imagined with AI) 이라는 꼬리표를 붙여왔는데, 이런 방식을 외부 AI 도구로 만든 콘텐츠에도 적용하겠다는 것이다.

지난 7일 테일러 스위프트 일본 공연 모습. [사진 = 로이터 연합뉴스]

메타는 “AI 도구로 생성된 이미지에 포함된 보이지 않는 워터마크나 특정 유형의 메타데이터를 대규모로 식별할 수 있는 도구를 구축해 왔다”며 “이를 통해 구글과 오픈AI, 마이크로소프트, 미드저니 등 다른 업체들의 AI 도구로 생성한 이미지를 인식할 수 있게 됐다”고 설명했다.

다만, 아직 모든 AI 생성 콘텐츠를 잡아내는 것은 불가능하며, 보이지 않는 워터마크나 표식까지 지울 수 있는 방법도 존재해 문제 해결 방안을 모색하고 있다고 했다. 아울러 음성과 동영상을 동일한 규모로 생성하는 AI 도구의 경우 식별할 수 있는 신호가 포함돼 있지 않아 감지할 수 없다고 덧붙였다.