생성형 AI 활용 재미로 만든 불법 콘텐츠… 구글 “이용자 열람 전 차단하겠다”

머신러닝 활용해 불법 콘텐츠 94% 차단
콘텐츠 관리 인력 2만명
국가별 문화·역사 감안해 콘텐츠 관리

장 자크 사헬(Jean-Jacques Sahel) 구글 아태지역 콘텐츠 정책 총괄./구글코리아 제공

“챗GPT를 비롯해 생성형 인공지능(AI)을 활용한 다양한 콘텐츠들이 나오고 있다. 이처럼 새로운 기술을 활용한 콘텐츠가 나오더라도 구글은 기존과 동일한 원칙을 그대로 적용, 유해성 콘텐츠를 차단하기 위해 노력할 것이다. 지금까지는 머신러닝을 활용하고 인력을 투입해 이용자들이 열람하기도 전에 콘텐츠를 차단해왔다.”

27일 서울 역삼동 구글코리아 본사에서 온라인으로 진행된 간담회에서 장 자크 사헬 사헬(Jean-Jacques Sahel) 구글 아태지역 콘텐츠 정책 총괄은 “생성형 AI 등 새로운 기술이 등장하면서 긍정적인 측면도 생겼지만, 아직 기술이 발전 초기 단계여서 몇 가지 문제점들이 나타나는 것 같다”며 이같이 말했다. 그는 2019년 구글에 합류해 부적절한 콘텐츠 유통을 막기 위한 정책을 수립하는 역할을 맡고 있다. 구글에 합류하기 전에는 스카이프에서 정부 및 규제 관련 업무를, 마이크로소프트에서 유럽·중동 및 아프리카 지역 디지털 정책을 총괄했다. 현재는 국제방송통신기구(International Institute of of Communications) 이사회에서 전략위원회 위원장을 맡고 있다.

최근에는 일론 머스크 테슬라 최고경영자와 메리 바라 제너럴모터스(GM) 회장이 데이트하는 사진이 유튜브를 통해 빠르게 퍼지기도 했다. 전 세계 사람들이 이 사진을 보고 놀랐지만, AI가 만들어낸 가짜 사진이었다는게 뒤늦게 밝혀졌다. 생성형 AI가 보편화되면서 이처럼 가짜 콘텐츠들이 넘쳐나게 된 것이다. 이에 유럽연합(EU) 등은 생성형 AI로 작성한 글과 이미지에 ‘AI로 작성했다’는 표기가 자동 삽입되고, AI를 만든 기업이 어떤 윤리적 지침을 따랐는지를 의무적으로 설명하도록 하는 것을 골자로 하는 법안을 추진 중이다.

구글이 콘텐츠를 삭제하는 경우는 법률을 위반했거나, 구글 제품 또는 서비스와 관련한 운영 원칙을 위반하는 경우다. 장 자크 사헬 총괄은 “구글은 사업을 운영하는 각 국가의 법률을 준수하고 문화·역사적 특수성을 고려해 해당 국가의 구글 플랫폼에서 불법 콘텐츠를 삭제하고 있다”며 “일관된 기준에 맞춰 정보 품질을 관리하고 하지만, 각 서비스마다 갖는 특성이 달라 실제로는 별도 정책과 가이드라인을 적용하고 있다”고 말했다. 예컨대 유튜브의 경우 다른 플랫폼보다 파급력이 높기 때문에 유해성 콘텐츠를 판단하는 기준도 높은 수준으로 적용하고 있다는 것이다.

장 자크 사헬 총괄은 “콘텐츠를 관리하는 목표는 작업의 정확성과 규모를 유지하는 것이다”라며 “콘텐츠 관리 절차가 대부분 자동화돼 있지만 관련 인력들도 있다”고 말했다. 그러면서 “현재 구글에는 2만명 이상의 인력이 구글 플랫폼에서 콘텐츠 검토 및 삭제 업무를 수행하고 있으며 한국어를 포함해 여러 언어에 능통한 검토자들이 업무에 참여하고 있다”며 “전 세계에서 법적 사유로 인한 삭제 요청과 신고를 24시간 신중하게 검토하고 처리한다”고 말했다.

그는 코로나19가 확산되거나 백신이 개발됐을 때처럼 중요한 순간과 이슈마다 관련 정책을 별도로 마련해 허위 정보에 대응해왔다고도 설명했다. 앞으로 생성형 AI 등 신기술을 악용한 거짓 정보가 등장해도 별도의 정책을 만들어 적극 대응하겠다는 것이다. 장 자크 사헬 총괄은 “작년 4분기에 삭제된 유튜브 영상의 94% 이상은 머신러닝에 의해 먼저 감지됐고, 이 중 71% 이상은 삭제되기 전 조회수 10회 이하를 기록했다”고 설명했다.

국내에선 작년 상반기 기준 정부가 유해한 콘텐츠로 신고한 것 중 82%가 개인정보보호와 보안 관련 내용들이었다. 장 자크 사헬 총괄은 “이용자·전문가 피드백과 사례를 분석해 정책 초안을 만들고 이 정책이 유해성을 제대로 차단했는지 파악하는 순환형태로 프로세스를 진행하겠다”며 “시간이 오래 걸릴 수밖에 없지만 가치 있는 노력이라고 생각한다”고 말했다.

- Copyright ⓒ 조선비즈 & Chosun.com -