강릉 펭귄 축제 ·평창 루돌프 썰매장·포천 북극곰 얼음낚시
최근 소셜네트워크서비스(SNS)에서 '겨울에 꼭 가야할 데이트 명소 3곳'을 주제로 확산된 숏폼 콘텐츠(30초 내외 길이의 짧은 영상) 속 내용이다. 눈 쌓인 소나무 밭에서 펭귄이 노는 그림도 나온다. 영상 속 모습과 달리 루돌프는 상상 속 동물이며, 펭귄과 북극곰은 한국에 서식하지 않는다. 이 콘텐츠는 인공지능(AI)이 실제처럼 만든 가짜다.
이와 같은 AI 생성 콘텐츠가 유튜브·인스타그램·틱톡 등 SNS에서 빠르게 확산하고 있다. AI 생성 기능은 창작 생산성을 높이고, 이용자의 즐거움을 확대하지만 사실을 왜곡한다는 우려가 함께 나온다. 딥페이크(딥러닝을 활용한 이미지 합성 기술)와 가짜뉴스 확산에도 AI 생성 콘텐츠가 악용되는 사례가 늘어 사회 문제로 지적된다. 이에 콘텐츠를 유통하는 플랫폼도 이용자가 AI 콘텐츠를 구분할 수 있도록 책임을 다해야 한다는 목소리가 나온다.
'AI 생성' 라벨 부착…딥페이크·가짜뉴스 경각심 제고
글로벌 엔터테인먼트 플랫폼 틱톡은 '제대로 보고 제대로 즐기자' 캠페인을 진행한다. AI가 만든 콘텐츠임을 밝히는 표시 기능을 도입하고, 이용자의 AI 생성 콘텐츠 리터러시를 높이는 활동을 전개한다. 이를 통해 AI로 생성된 가짜뉴스의 위험성을 알릴 목적이다.
틱톡은 AI로 만들거나 편집한 콘텐츠를 식별해 'AI 생성' 이라는 라벨이 자동으로 콘텐츠에 부착되도록 한다. 이와 함께 콘텐츠의 출처를 쉽게 알 수 있는 또 다른 표시를 이용자에게 제공한다. 틱톡의 크리에이터는 AI 생성 콘텐츠에 직접 라벨을 붙이는 '토글 버튼'을 이용할 수 있다. 이 기능을 콘텐츠 업로드 단계에서 활성화하면, 해당 동영상 왼쪽 아래에 '크리에이터가 AI 생성으로 라벨 지정함'이라는 표시가 뜬다.
이와 같은 방식으로 영상에 AI 라벨을 부착한 크리에이터 수는 전 세계에서 3700만명을 넘었다.
타 플랫폼서 만든 영상도 'AI 생성' 표시
틱톡은 AI 생성 콘텐츠 구분을 확산하기 위해 국내외 업계와 협력한다. '콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)'과 협력해 '콘텐츠 자격증명' 기술을 플랫폼 기업 중 처음 도입했다. 이 기술을 통해 타사 플랫폼에서 제작된 AI 생성 콘텐츠에도 자동으로 'AI 생성' 라벨을 붙일 수 있다. 콘텐츠 자격증명 기술을 사용하면 메타데이터가 콘텐츠에 연결되고, 이 메타데이터를 인식해 라벨이 부착되는 식이다. 해당 기능은 이미지와 비디오 콘텐츠에 우선 적용됐다. 향후 오디오 콘텐츠에도 적용될 예정이다.
틱톡은 어도비(Adobe)가 주도하는 '콘텐츠 진위성 이니셔티브(CAI)'에도 참여한다. 한국에서는 KBS, 교육부와 디지털 성범죄 예방 캠페인을 진행했다.
이 외에 틱톡은 안전한 콘텐츠 공유·시청 생태계 조성을 위해 커뮤니티 가이드라인을 공개했다. 이 가이드라인은 현실을 왜곡할 위험이 있는 콘텐츠를 '오해의 소지가 있는 AIGC(AI 생성콘텐츠) 또는 편집된 미디어'로 규정한다. 즉 딥페이크 영상과 가짜뉴스에 AI 생성 콘텐츠 라벨을 붙이거나, 유통을 차단하는 것이다.
청소년 이용자 보호를 위해서는 부모가 자녀의 콘텐츠 피드와 탐색을 제어할 수 있는 '세이프티 페어링' 기능, 앱 사용 시간을 제한하는 '스크린 타임' 기능을 도입했다.
틱톡은 "새로운 AI 및 기타 디지털 기술을 활용하는 창의성을 환영하는 입장이지만, AI 생성 콘텐츠 또는 편집된 미디어에는 라벨을 표기해야 한다"고 강조했다.
윤상은 기자
Copyright © 블로터