"한 시간 들은 도올 강의가 가짜였다니..." 모호한 AI 라벨에 혼란

AI 생성물 워터마크 의무 됐는데
'변경된 콘텐츠' 등 표현 모호하고
다른 메뉴 눌러 들어가야 확인돼
'AI 슬롭' 조회수 1위가 한국인데
워터마크 대상도 방식도 제각각

철학자 도올 김용옥의 법문인양 올라온 유튜브의 영상들. 유튜브 캡처

'중년 이후 말이 왜 차가워질까.'

평소처럼 유튜브에 접속한 A(66)씨는 철학자 도올 김용옥의 얼굴과 함께 뜬 이 섬네일에 이끌려 약 50분짜리 영상들을 쭉 시청했다. 도올의 목소리가 읊어준 인생 조언은 듣기에 썩 나쁘지 않았다. 이후 A씨의 유튜브 목록엔 비슷한 영상이 줄이어 올라왔다.

그런데 A씨가 본 영상은 도올의 목소리와 그가 평소 말한 내용을 학습해 인공지능(AI)으로 생성해낸 가짜 창작물일 가능성이 농후하다. "출처가 어딘가요", "AI로 만들었으면 얘기를 해야죠" 같은 댓글이 있길래 영상 설명란을 자세히 살펴보니 '변경됐거나 합성된 콘텐츠'라는 작은 문구가 그제야 눈에 들어왔다. 영상 제작자가 생성형 AI를 활용해 제작했다고 스스로 표시한 유튜브 '라벨'이다. A씨는 "영상을 AI가 만들었단 사실을 쉽게 알아차리기 어려운 구조"라며 기막혀했다. 도올의 공식 채널인 도올TV는 12일 "도올 법문이라면서 선생님 목소리로 만들어진 영상들이 올라오는데, 도올 선생님이 하신 말씀이 아니다"라며 유튜브 측에 영상 신고를 요청했다고 밝혔다.

22일 국내에서 세계 최초로 AI 기본법이 시행되면서 생성형 AI가 만든 콘텐츠에 고유한 표식(워터마크)을 남기는 게 의무가 됐다. 하지만 거대 플랫폼엔 여전히 AI로 생성됐음을 명확히 밝히지 않은 창작물이 범람한다. 지난해 11월 동영상 편집 플랫폼 카프윙이 세계 유튜브 채널 1만5,000개를 조사한 결과, 생성형 AI로 만든 저질 콘텐츠인 'AI 슬롭'의 조회수 1위 국가가 한국이었다.

AI가 생성한 콘텐츠임을 알려주는 유튜브의 라벨. AI가 만들었다는 사실을 명확하고 구체적으로 표시한 게 아니라 '변경된 콘텐츠'라고 뭉뚱그려 표현했다. 유튜브 캡처

최대 동영상 플랫폼인 유튜브의 AI 생성물 규정은 다른 플랫폼보다 더 부실하다는 평가를 받는다. 닐 모한 유튜브 최고경영자(CEO)가 21일(현지시간) "AI 제품을 사용해 제작된 콘텐츠를 명확하게 표시하고 있다"고 했으나, 도올을 도용한 채널 사례처럼 '자진 신고'로 부착되는 안내 문구에도 'AI 생성물'이라는 구체적인 표현이 빠져 있다.

인스타그램 역시 유튜브와 유사하게 AI 생성물에 표식을 붙이는 제도를 운영 중이다. 그러나 화면 하단에 작게 보이는 메뉴를 찾아 일부러 눌러야 표식이 뜨는 방식이라, 이용자가 단번에 알아차리기 어렵다는 지적이 나온다.

23일 인스타그램에서 조회한 강아지 영상(왼쪽). 화면 하단에 있는 '더 보기' 버튼을 눌러야 AI가 생성한 영상이라는 라벨(오른쪽)을 확인할 수 있다. 인스타그램 캡처

선정적 콘텐츠로 비판받아온 틱톡은 AI가 제작한 콘텐츠를 얼마나 노출할지를 사용자가 직접 지정할 수 있게 시스템을 개편하겠다고 지난해 11월 밝혔다. 현재 틱톡 사용자는 '댄스', '패션' 같은 영상 주제별로 콘텐츠 노출 정도를 직접 설정할 수 있는데, 여기에 'AI 생성물' 항목을 추가하겠다는 것이다.

AI 슬롭을 잡으려다 AI 창작 생태계 전반을 훼손할지 모른다는 '교각살우' 우려가 상존하는 마당에, 어느 선까지를 표식 대상으로 볼지도 까다로운 문제다. PC게임 플랫폼 스팀은 그간 게임을 유통하기 전 모든 개발 과정에 대해 AI 활용 여부를 조사하고 공개해왔는데, 이제부턴 코드 작성 보조 같은 업무 효율화에 AI를 쓴 경우는 굳이 밝히지 않기로 방침을 바꿨다. 게임의 스토리나 디자인처럼 이용자에게 보이는 콘텐츠가 아니라면 AI 활용을 불문에 부치겠다는 의미다. 이렇게 업체나 서비스마다 서로 다른 기준을 내세울 경우 이용자들 혼란은 당분간 이어질 것으로 보인다.

홍인택 기자 heute128@hankookilbo.com