유튜브 유해동영상 94%, AI 머신러닝이 먼저 감지···"사람 보기 전 차단"

구글 아태지역 콘텐츠 정책 총괄 간담회
법률 위반·구글 운영원칙 위반시 삭제
2만여명도 24시간 콘텐츠 관리·삭제 투입

장 자크 사헬 구글 아태지역 콘텐츠 정책 총괄. 사진제공=구글

[서울경제]

“머신러닝(ML)이 지난해 4분기에 삭제된 유튜브 영상의 94% 이상을 먼저 감지했습니다.”

장 자크 사헬 구글 아태지역 콘텐츠 정책 총괄은 27일 온라인 간담회에서 “이 중 71% 이상이 삭제 되기 전 조회수 10회 이하를 기록했다”며 이같이 밝혔다. 기계 학습을 한 인공지능(AI)으로 유해한 콘텐츠가 이용자에게 노출되는 것을 차단하고 있다는 것이다. 세계 이용자들에게 양질의 정보를 제공하기 위해 첨단 기술을 도입하는 등 총력을 다하고 있다는 설명이다. 또 이용자와 사회에 미치는 피해를 방지하고, '낮은 품질의 정보'를 제한하기 위해 힘을 쏟고 있다.

구글의 콘텐츠 삭제 기준은 두 가지다. 서비스가 운영되는 국가의 법률을 위반하거나 구글 제품 또는 서비스에 대한 '운영원칙'을 위반할 때 삭제한다. 장 자크 사헬 총괄은 “구글은 사업을 운영하는 각 국가의 법률을 준수하고 문화·역사적 특수성을 고려해 해당 국가의 구글 플랫폼에서 불법 콘텐츠를 삭제하고 있다”고 설명했다.

구글은 인적 자원도 콘텐츠 품질 관리에 투입하고 있다. 맥락을 이해하지 못하는 기술의 한계를 인간이 보완하며 구글의 기준을 지켜가고 있다. 현재 2만 명이 넘는 인원이 콘텐츠 검토 및 삭제 업무를 하고 있다. 장 자크 사헬 총괄은 “이용자·전문가 피드백과 사례를 분석해 정책 초안을 만들고 이 정책이 유해성을 제대로 차단했는지 파악하는 순환형태로 프로세스를 진행한다”고 밝혔다. 그는 “한국어를 포함해 여러 언어에 능통한 인력이 업무에 참여하고 있다"며 "전 세계에서 법적 사유로 인한 삭제 요청과 신고를 24시간 신중하게 검토하고 처리한다”고 말했다.

구글의 콘텐츠 관리 전략도 시대 변화와 기술 발전에 맞춰 발전하고 있다. 예를 들어 코로나19 팬데믹 상황과 코로나19 백신 개발 시 관련 정책을 별도로 마련해 허위 정보에 대응해왔다고도 설명했다. 생성형 AI등 신기술을 악용한 거짓 정보 등에 대응하는 데도 마찬가지다. 장 자크 사헬 총괄은 “새로운 기술을 기반으로 한 제품들이 나와도 동일한 원칙을 그대로 적용할 것”이라고 강조했다.

장 자크 사헬 총괄은 2019년 구글에 합류했으며 이전에는 국제인터넷주소관리기구(ICANN)의 유럽 지역 매니징 디렉터로 재직하며 유럽 지역의 기업 전략 및 운영을 담당했다. 또 스카이프에서 정부 및 규제 관련 업무를, 마이크로소프트에서 유럽·중동 및 아프리카 지역 디지털 정책을 총괄했으며 영국 정부를 포함한 여러 정부와 민간 부문에서 20년 동안 활동했다. 현재는 국제방송통신기구 이사회에서 전략 위원회 위원장을 맡고 있다.

김성태 기자 kim@sedaily.com