"AI가 만든 사진입니다"···네이버, AI 꼬리표 단다

딥페이크 등 오남용 우려 커져
이미지 하단에 'AI 활용' 표시
틱톡·유튜브 등도 라벨 적용

네이버가 AI로 만든 이미지·동영상 등을 활용할 경우 이를 알 수 있도록 오른쪽 하단에 ‘AI 활용’ 꼬리표를 부착할 수 있도록 했다. 사진 제공=네이버

[서울경제]

네이버가 자사 서비스에 게시되는 인공지능(AI)으로 만든 생성물에 ‘AI 꼬리표’를 부착한다. 생성형 AI 기술이 빠른 속도로 발전하면서 딥페이크 등 오남용 우려도 커지자 이에 대응에 나선 것으로 분석된다.

5일 정보기술(IT) 업계에 따르면 네이버는 최근 블로그·카페·클립 등 사용자 생성 콘텐츠(UGC)에 AI로 생성한 이미지나 동영상을 활용할 경우 이를 알 수 있도록 ‘AI 활용’ 마크를 부착할 수 있게 했다. 작성자가 선택하면 이미지나 동영상 오른쪽 하단에 ‘AI 활용’이라는 아이콘이 표시되는 식이다. 네이버는 “'AI 활용' 표시를 통해 이용자들은 콘텐츠의 출처를 명확히 파악할 수 있고, AI로 생성된 콘텐츠가 실제와 혼동되는 것을 방지할 수 있다”며 작성자가 ‘AI 활용’ 여부를 표시할 것을 권장했다. 네이버는 향후 UGC 외에도 자사 서비스 전반에 ‘AI 활용’ 표시를 적용할 예정이다.

최근 이미지 뿐만 아니라 동영상 또한 간단한 프롬프트(명령어)를 통해 몇 초만에 만들어내는 기술이 확산되면서 글로벌 빅테크를 중심으로 AI로 생성한 콘텐츠인지를 구분할 수 있는 표식이 필수로 자리잡고 있다. 실제로 틱톡은 최근 이미지를 동영상으로 바꿔주는 ‘AI 얼라이브’ 기능을 선보이며 해당 서비스로 만든 콘텐츠는 AI로 생성된 것임을 알리는 라벨을 부착하도록 했다. 동시에 해당 영상에 ‘콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)’의 메타 데이터를 삽입해 콘텐츠가 틱톡 외부로 다운로드되거나 공유되더라도 AI 생성물임을 식별할 수 있도록 했다. 구글도 올해 초 동영상 생성 AI 모델 ‘비오2’를 출시하며 해당 모델을 활용해 만든 영상은 AI로 제작됐음을 알리는 워터마크를 삽입했다.

업계에서는 기업들이 건강한 AI 생태계를 구축하기 위해 자발적으로 AI 라벨을 붙이는 시도를 하고 있는 가운데 정부도 이에 대한 지원을 확대해야 한다는 목소리가 나온다. 앞서 정부는 내년 1월 시행 예정인 ‘AI 기본법’에 AI로 만든 생성물은 워터마크 등 식별 표시를 의무화해야 한다는 내용을 담았다. 이와 같은 제도를 만드는 것 뿐만 아니라 민관 공동 기술 개발 등과 같은 실질적 지원이 확대돼야 한다는 설명이다.

양지혜 기자 hoje@sedaily.com