인스타에 AI 사진 올리면 '꼬리표' 붙는다…메타, 새 정책 예고

메타(Meta) 공식 홈페이지

페이스북·인스타그램을 운영하는 메타(Meta)가 자사 소셜미디어 플랫폼에 'AI 생성 이미지' 라벨을 도입하겠다고 예고했다.

6일(현지시간) 메타는 공식 홈페이지를 통해 "몇 달 안에 페이스북과 인스타그램, 스레드에서 AI로 생성한 콘텐츠에는 라벨(꼬리표)을 붙일 것"이라고 밝혔다. 그간 자체 AI 도구인 '메타 AI'를 사용해 만든 이미지에 'AI로 생성됨'(Imagined with AI)이라는 꼬리표를 붙여왔는데, 이런 방식을 외부 AI 도구로 만든 콘텐츠에도 적용하겠다는 방침이다.

메타는 "AI 도구로 생성된 이미지에 포함된 보이지 않는 워터마크나 특정 유형의 메타데이터를 대규모로 식별할 수 있는 도구를 구축해 왔다"며 "이를 통해 구글과 오픈AI, 마이크로소프트, 미드저니 등 다른 업체들의 AI 도구로 생성한 이미지를 인식할 수 있게 됐다"고 설명했다.

다만 아직 모든 AI 생성 콘텐츠를 잡아내는 것은 불가능하며, 보이지 않는 워터마크나 표식까지 지울 수 있는 방법도 존재해 문제 해결 방안을 모색하고 있다고 밝혔다. 또 음성과 동영상을 동일한 규모로 생성하는 AI 도구의 경우 식별할 수 있는 신호가 포함돼 있지 않아 감지할 수 없다고 덧붙였다.

최근 미국에서는 인기 팝스타 테일러 스위프트의 사진을 합성한 딥페이크 음란 이미지가 SNS를 통해 확산한 사건을 계기로 AI 생성 이미지에 규제가 필요하다는 목소리가 힘을 얻고 있다.

당시 논란이 커지자 장 피에어 백악관 대변인까지 나서 "걱정스럽다. 소셜미디어 기업들이 자사의 규정을 느슨하게 적용한 탓이다"라고 지적하기도 했다.

YTN 서미량 (tjalfid@ytn.co.kr)

[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]