생성형 AI 시대, 구글의 콘텐츠 관리법은? [1일IT템]

장 자크 사헬 구글 아태지역 콘텐츠 정책 총괄 화상 인터뷰
생성형 AI 콘텐츠 제작에 적극 활용‥유해 콘텐츠는 엄격 관리
콘텐츠 관리 기준은 각 국이 세운 법률과 문화적 차이를 고려

유튜브 채널 'demonflyingfox'에 올라온 가짜 해리포터 발렌시아가쇼의 한 장면. demonflyingfox 채널 캡처

[파이낸셜뉴스] "생성형 인공지능(AI)이라는 신기술이 제공하는 기회는 적극적으로 활용할 수 있도록 하되 파생되는 문제점을 다룰 수 있는 정책도 설립하고 이행할 것이다."

장 자크 사헬(Jean-Jacques Sahel) 구글 아태지역 콘텐츠 정책 총괄. 구글 제공

장 자크 사헬 구글 아태지역 콘텐츠 정책 총괄은 27일 서울 강남 구글코리아 본사에서 열린 화상 간담회에서 "(생성형 AI) 콘텐츠에 대해 굉장히 큰 책임감을 느끼고 관련 작업을 진행하고 있다"며 이 같이 밝혔다.

생성형 AI는 최근 콘텐츠 제작에 활발하게 사용되고 있다. 예를 들면 생성형 AI 툴 등을 활용해 영화 '해리포터' 속 배우들이 발렌시아가 패션쇼에 등장하는 것처럼 만든 영상은 올라온 지 한 달 만에 유튜브 조회수 800만회를 넘어섰다. 한편으로는 기술을 활용해 거짓 사실을 퍼트리는 가짜뉴스 문제도 불거지고 있다.

유튜브 플랫폼 등을 운영하고 있는 구글도 기술 발전에 맞춰 콘텐츠 관리를 철저히 하겠다는 입장이다. 장 자크 사헬 총괄은 "새로운 기술이 가져오는 긍정적 측면들도 분명히 있을 것"이라면서도 "모니터링 관련 인력을 트레이닝 시켜서 유해 콘텐츠에 대응하기 위해 노력하고, 기존처럼 유해 콘텐츠에 대해선 엄격하게 따져볼 것"이라고 강조했다.

앞서 구글은 안전한 콘텐츠 생태계를 만들기 위해 부적절한 콘텐츠를 꾸준히 삭제하고 있다. 삭제는 법률을 위반하거나 관련 구글 제품 또는 서비스에 대한 운영원칙을 위반하는 경우에 이뤄진다. 콘텐츠 관리 절차는 대부분 자동화돼 있다. 예를 들면 지난해 4·4분기에 삭제된 전 세계 유튜브 영상의 94% 이상이 머신러닝(기계학습) 기술에 의해 먼저 감지됐다. 이 중 71% 이상이 삭제되기 전 조회수 10회 이하를 기록하고 있다.

콘텐츠 관리 기준은 각 국이 세운 법률과 문화적 차이를 고려한다. 한국의 경우, 지난해 상반기 기준 정부가 신고한 유해 콘텐츠의 82%는 개인정보 보호 관련 내용이었다. 장 자크 사헬 총괄은 "한국에서 문제가 없는 콘텐츠라고 해도 아시아 몇몇 국가나 아프리카 지역에는 문제가 될 수도 있다"며 "문화 및 법적 차이점들을 충분히 존중하고 있다"고 전했다.

머신러닝으로 잡아낼 수 없는 애매한 맥락의 콘텐츠가 존재하기 때문에 구글에는 2만명 이상의 인력이 콘텐츠 검토 및 삭제 작업을 수행하고 있다.

장 자크 사헬 총괄은 "폭력적인 내용의 사진이 올라온다고 했을 때 '교육' 및 '기록'으로 분류하면 기자의 보도 목적으로 뉴스에서 사용될 수 있다"며 "기계가 잡아낼 수 없는 애매하고 어려운 사례들에 대해 판단을 내리기 위해서라도 시간이 걸려도 검토자들이 반드시 필요하다"고 강조했다.
#구글 #구글코리아 #유튜브 #머신러닝 #삭제 #콘텐츠정책총괄