틱톡, AI 리터러시 교육·투명성 강화…AI 저품질 콘텐츠 대응 나선다

신규 교육 리소스, 전문가 협력 프로그램 전개
스팸 대응 시스템 개선…1분기에만 계정 8600만개 삭제

틱톡 로고.

틱톡은 이용자가 인공지능(AI) 생성 콘텐츠(AIGC)를 안전하고 책임감 있게 소비, 창작할 수 있는 지원 방안을 확대한다고 밝혔다.

틱톡에 따르면 이번 지원책은 AI 리터러시 교육 확대, AI 콘텐츠 투명성 기술 및 업계 협력 강화, AI 생성 스팸 계정 등 플랫폼 신뢰도를 저해하는 요소들에 대한 대응 시스템 개선 등을 골자로 한다. AI 창작 활동을 지원하는 한편, 플랫폼의 신뢰성은 더욱 높이겠다는 구상이다.

AI 기술이 일상적인 콘텐츠의 제작과 소비 중심으로 자리잡는 가운데, 이용자들이 이를 올바르게 이해하고 활용할 수 있도록 돕기 위해 마련했다.

틱톡은 AI 리터러시 강화 일환으로 신규 교육 리소스와 전문가 협력 프로그램을 전개한다.

미디어 리터러시 전문기관인 미국 미디어교육전국연합회(NAMLE) 및 생성형 AI 전문가 헨리 에이더와 협력해 이용자들이 AI 도구와 AIGC를 안전하고 책임감 있게 활용할 수 있도록 안내하는 가이드를 공동 마련했다. 또한 이용자가 AI 관련 용어를 검색할 시 AIGC를 식별하는 방법을 배울 수 있는 허브도 선보일 방침이다.

AI 리터러시 강화를 위한 투자도 이어간다. 틱톡은 디지털 안전 연합체 ‘노필터’, 교육 자선 단체 ‘라즈베리 파이 재단’ 등 전문 기관의 틱톡 콘텐츠 제작을 지원한다.

지난해 11월 출범 이래 해당 프로그램을 통해 제작된 콘텐츠가 누적 조회수 2억회를 기록하며 호응을 얻었다. 틱톡은 지금까지 이에 400만달러 이상을 투자했으며 향후에도 관련 지원을 지속 확대할 계획이다.

아울러 틱톡은 AI를 악용한 저품질 AI 생성 스팸 콘텐츠 대응 시스템도 개선한다. 틱톡은 1분기에만 8600만개 이상의 허위 계정을 삭제했다. 앞으로 공공 신뢰 또는 안전, 보건에 영향을 미칠 수 있는 민감한 주제 관련 스팸 콘텐츠를 대량 게시하는 계정을 탐색, 조치하는 시스템을 고도화할 방침이다.

톰 C. 바르게세 틱톡 공공정책 AI 리드는 “틱톡은 이용자들이 AI를 경험하는 과정에서 충분한 맥락을 파악하고, 안심하며, 자신의 경험을 직접 관리할 수 있어야 한다고 믿는다”며 “앞으로도 이용자들이 AI 생성 콘텐츠를 구분하고 제작 과정을 이해하며 관련 도구를 창의적이고 책임감 있게 사용할 수 있도록 기술, 파트너십, 교육 리소스에 지속적으로 투자할 것”이라고 밝혔다.

김영욱 기자 wook95@dt.co.kr