앞으로 페북·인스타에 딥페이크 올리면 ‘가짜 딱지’ 붙는다

메타가 추진 중인 AI 생성 이미지 라벨 [사진 = 메타 블로그 갈무리]

최근 미국에서는 AI가 생성한 딥페이크 이미지로 피해가 확산하면서 SNS 업계도 부작용을 줄이기 위해 규제에 나서야 한다는 목소리가 높아지고 있다.

이런 가운데 메타가 페이스북·인스타그램 등 자사의 소셜미디어 플랫폼에 이용자들이 인공지능(AI)으로 생성된 이미지를 식별할 수 있게 만드는 정책을 시행하기로 했다.

메타는 6일(현지 시각) 공식 홈페이지를 통해 “몇 달 내 페이스북과 인스타그램, 스레드에서 AI로 생성한 콘텐츠에 ‘꼬리표(label)’ 를 붙일 것”이라고 밝혔다.

메타는 그동안 자체 AI 도구인 ‘메타 AI’를 사용해 만든 이미지에 ‘이매진드 위드 AI’(Imagined with AI)라는 표식을 붙여왔다. 이런 방식을 챗GPT 같은 외부 AI 도구로 만든 콘텐츠에도 확대해 적용키로 한 것이다.

이와 관련 메타는 “AI 도구로 생성된 이미지에 포함된 보이지 않는 워터마크나 특정 유형의 메타데이터(대량의 데이터를 구조화한 데이터)를 대규모로 식별할 수 있는 도구를 구축해 왔다”며 “구글과 오픈AI, 마이크로소프트, 미드저니 등 다른 업체들의 AI 도구로 생성한 이미지를 인식할 수 있게 됐다”고 설명했다.

또 메타는 인터넷 전반에 걸쳐 확산하는 AI 생성 콘텐츠 식별을 위해 업계의 다른 회사들과 협력해 공통 표준 모델을 개발하기 위해 노력하고 있다면서도, 자사가 구축하고 있는 식별 도구가 모든 AI 생성 콘텐츠를 잡아낼 수 있는 것은 아니라고 했다.

아울러 오디오(음성)과 비디오(동영상)을 함께 생성하는 AI 도구의 경우 식별할 수 있는 신호가 포함돼 있지 않아 아직은 감지가 불가능한 상황이라고 덧붙였다.