딥페이크 막는 틱톡, AI합성 영상에 '합성' 표기해야

AI합성 영상 업로드시 설명란에 '합성' '허구' 표시 의무 도입 예정

[미디어오늘 금준경 기자]

앞으로 틱톡에서 인공지능 합성 영상을 올릴 때는 '합성' '허구' 등을 명확히 표시해야 한다.

인터넷 동영상 서비스 틱톡은 22일 커뮤니티 가이드라인을 통합 및 개정해 오는 4월21일부터 적용할 계획이다. 새 통합 가이드라인은 'AI 생성 콘텐츠 관리 방식'을 추가했다는 점이 특징이다.

틱톡코리아에 따르면 통합 가이드라인에는 'AI 생성 콘텐츠 관리 방식' 규정이 있다. 이 규정은 “틱톡은 합성 미디어가 지닌 표현적 가치와 개인을 대상으로 한 피해 위험의 균형을 맞춘다”는 내용이 포함됐다.

▲ 틱톡 이미지

예컨대 현실적인 장면을 보여주는 합성 또는 조작된 영상의 경우 별도의 스티커나 캡션을 사용해 '합성' '허구' '실제 아님' '변형됨' 등을 명확히 언급해야 한다. 가이드라인을 준수하지 않을 경우 콘텐츠 삭제 등 조치가 이뤄질 수 있다. 틱톡을 통한 합성 영상이 허위정보로 전파되는 문제에 대응하기 위한 조치로 보인다.

틱톡은 이 외에도 △증오발언 및 증오행위 제재 기준 확대 △ 선거 관련 공정성 기준 등을 추가해 통합 가이드라인에 반영했다.

틱톡발 허위정보가 논란이 되자 틱톡 최고운영책임자 바네사 파파스는 지난해 '투명성에 대한 더욱 강력한 약속'을 공지했다. 허위정보 방지를 위해 플랫폼 연구 API, 심사 시스템 API, 미국 콘텐츠 및 안전 자문 위원회와 정보 공유를 강화하겠다고 밝혔다. 이외에도 틱톡은 투명성 보고서, 집행 보고서 등을 발표해 허위정보 삭제 건수를 공개하고 있다.

[미디어오늘 바로가기][미디어오늘 페이스북]
미디어오늘을 지지·격려하는 [가장 확실한 방법]