“이 사진은 AI로 만듦”

메타, 인스타그램·페이스북서 AI 생성 콘텐츠 식별 조치 예고

메타가 검토 중인 AI 생성 이미지 꼬리표 게시 방법. 메타 블로그 캡처

페이스북의 모회사인 메타가 자사의 소셜미디어 플랫폼에서 이용자들이 인공지능(AI)으로 생성된 이미지임을 식별할 수 있게 하는 정책을 시행한다고 예고했다. 최근 팝스타 테일러 스위프트의 사진을 합성한 딥페이크가 엑스(X, 옛 트위터) 등 사회관계망서비스(SNS)에서 확산해 사회적 논란이 일자 대책 마련에 나선 것으로 보인다.

메타는 6일(현지시간) 공식 홈페이지를 통해 “몇 달 안에 페이스북과 인스타그램, 스레드에서 AI로 생성한 콘텐츠에 ‘꼬리표(레이블)’를 붙일 것”이라고 밝혔다.

메타는 그간 자체 AI 도구인 ‘메타 AI’를 사용해 만든 이미지에 ‘이매진드 위드 AI(Imagined with AI)’라는 표식을 붙여왔는데, 이런 방식을 챗GPT 같은 외부 AI 도구로 만든 콘텐츠에도 확대해 적용하겠다는 것이다.

메타는 “그간 AI 도구로 생성된 이미지에 포함된 보이지 않는 워터마크나 특정 유형의 메타데이터(대량의 데이터를 구조화한 데이터)를 대규모로 식별할 수 있는 도구를 구축해 왔다”며 “이를 통해 구글과 오픈AI, 마이크로소프트, 미드저니 등 다른 업체들의 AI 도구로 생성한 이미지를 인식할 수 있게 됐다”고 설명했다.

또한 메타는 인터넷 전반에 걸쳐 확산하는 AI 생성 콘텐츠 식별을 위해 업계의 다른 회사들과 협력해 공통 표준모델을 개발하기 위해 노력하고 있다고 밝혔다.

다만, 메타는 자사가 구축하고 있는 식별 도구가 모든 AI 생성 콘텐츠를 잡아낼 수 있는 것은 아니라고 우려했다. 메타 측은 “사람들을 속이려고 하는 이들이 AI 이미지 생성 과정에서 보이지 않는 워터마크나 표식까지 지울 수 있는 방법도 존재해 이 문제를 해결하는 방안도 모색하고 있다”고 설명했다. 또 음성(오디오)과 동영상(비디오)을 함께 생성하는 AI 도구의 경우 식별할 수 있는 신호가 포함돼 있지 않아 아직은 감지가 불가능한 상황이라고 덧붙였다.

한편, 최근 미국에서는 AI가 생성한 딥페이크 이미지로 피해가 확산하면서 SNS업계도 부작용을 줄이기 위해 규제에 나서야 한다는 목소리가 높아지고 있다.

김은성 기자 kes@kyunghyang.com