지코어 ‘콘텐츠 플랫폼’을 위한 불법영상 탐지 솔루션
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
지코어(Gcore)는 불법 인공지능(AI) 동영상 콘텐츠를 실시간으로 탐지하고 관리할 수 있도록 돕는 '지코어 AI 콘텐츠 모더레이션(Gcore AI Content Moderation) 솔루션'을 출시했다고 5일 밝혔다.
알렉세이 페트로브스키(Alexey Petrovskikh) 지코어 동영상 스트리밍 책임자는 "엄청난 양의 콘텐츠를 모더레이션하기 위해 충분한 인력을 배치하고 비용을 통제하는 것은 불가능에 가깝다"며 "이번에 선보인 지코어 AI 콘텐츠 모더레이션 솔루션은 기업이 글로벌 규모로 콘텐츠를 탐지 및 관리할 수 있는 권한과 역량을 부여하는 동시에 사람이 플래그로 지정된 콘텐츠를 검토할 수 있도록 해준다 이러한 강점은 기업이 규정을 준수하면서 사용자, 커뮤니티, 더 나아가 기업 평판을 보호하는데 필수적인 역할을 한다"고 덧붙였다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
유해 콘텐츠 자동 탐지 및 관리
국가별 규정 준수 지원
지코어는 “어린이가 접근할 수 있는 콘텐츠를 호스팅하는 모든 플랫폼은 사용자가 생성하는 콘텐츠를 모더레이션해 폭력적이거나 불법적이고, 연령에 부적절한 콘텐츠로부터 시청자를 보호할 수 있어야 한다”면서 “사용자를 유해한 콘텐츠에 노출시킨 기업에는 명예 훼손, 법적 조사, 서비스 정지, 운영 금지, 벌금 등이 부과될 수 있다”고 말했다.
지코어는 “하지만 사용자 제작 동영상 콘텐츠의 기하급수적 증가로 사람이 유해하고 불법적인 콘텐츠를 직접 식별해 내기는 어렵다”면서 “모더레이터가 따라가지 못 할만큼의 많은 양으로 과부하가 걸리거나, 비용이 과도하게 발생하거나, 비효율적인 운영으로 인해 위반사항을 놓치거나 합법적인 콘텐츠의 게시가 지연되기도 한다”고 말했다.
지코어 AI 콘텐츠 모더레이션 솔루션은 동영상 콘텐츠 스트림의 검토를 자동화해 부적절한 콘텐츠를 표시하고, 필요한 경우 사람 모더레이터에게 경고를 보낸다. 해당 솔루션은 영상 또는 라이브 스트림이 게시된 후 몇 초 내에 검토를 시작한다.
우선 최첨단의 컴퓨터 시각(Vision) 모델을 사용해 객체를 감지하고 세분화 및 분류함으로써 부적절한 시각적 콘텐츠를 정확하게 식별하고 플래그를 지정할 수 있다. 둘째, 광학 문자 인식(OCR)이 가능하다. 동영상에 표시되는 텍스트를 머신이 읽을 수 있는 형식으로 변환해 동영상 콘텐츠 내에 표시되는 부적절하거나 민감한 텍스트 정보를 관리할 수 있다. 또 음성인식에 대한 정교한 알고리즘이 오디오 트랙을 분석해 욕설이나 혐오 발언을 감지하고 플래그를 지정함으로써 시각적 콘텐츠만큼 효과적으로 오디오를 모더레이션 한다. 마지막으로 아동 착취와 관련된 콘텐츠의 식별과 같은 복잡한 의사결정을 내리려면 여러 데이터 포인트와 다양한 모델의 출력을 통합해야 하는데 지코어 AI 콘텐츠 모더레이션 솔루션은 다중 모델 출력 집계를 통해 정확하고 신뢰할 수 있는 결정을 내린다.
이 밖에도 지코어 AI 콘텐츠 모더레이션 솔루션을 API를 통해 기업이 보유한 기존 인프라에 신속하게 통합할 수 있다. 뿐만 아니라 이러한 지코어의 콘텐츠 모더레이션은 총 200Tbps 이상의 네트워크 용량을 갖춘 180개 이상의 지코어 글로벌 엣지 네트워크에서 실행되어 고객에게 짧은 지연시간, 속도 및 회복 탄력성을 보장해 준다고 사측은 덧붙였다.
알렉세이 페트로브스키(Alexey Petrovskikh) 지코어 동영상 스트리밍 책임자는 “엄청난 양의 콘텐츠를 모더레이션하기 위해 충분한 인력을 배치하고 비용을 통제하는 것은 불가능에 가깝다”며 “이번에 선보인 지코어 AI 콘텐츠 모더레이션 솔루션은 기업이 글로벌 규모로 콘텐츠를 탐지 및 관리할 수 있는 권한과 역량을 부여하는 동시에 사람이 플래그로 지정된 콘텐츠를 검토할 수 있도록 해준다 이러한 강점은 기업이 규정을 준수하면서 사용자, 커뮤니티, 더 나아가 기업 평판을 보호하는데 필수적인 역할을 한다”고 덧붙였다.
Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지
- ‘폭풍 오열’ 설현 그 사건?…김구라 “편집요청 거절, 그 PD 잘나갈거 같냐” - 매일경제
- 손웅정 축구교실 학부모들 입 열었다…“수년간 한번도 체벌 없어” - 매일경제
- “울아들 자주 하는데 큰일났네”...전자파 노출 1위는 ‘인형뽑기 기계’ [아이티라떼] - 매일경
- 조국 “뼈아프게 머리 숙여 사과드린다, 현 대통령 임기 단축 논의”…당대표 연임 도전 - 매일
- “아무리 돈 많아도 한남동 안 가고, 포르쉐 안 타”...김구라가 밝힌 소신은? - 매일경제
- “강아지 찾아줘 고마워요”…3명에게 1인당 400만원 사례금 준 사연 - 매일경제
- “부웅! 급발진 속도붙으면”…전문가들, 당황말고 ‘이것’부터 찾아라 - 매일경제
- “형님, 혼자만 가면 어떡합니까”...대형주 쏠림에 소형주 눈물 - 매일경제
- “3억 요구는 다투다 나온 말”…여행가고 꽃다발 받았다는 허웅 전 여친 - 매일경제
- ‘K-황소’ 황희찬, 마르세유가 ‘만장일치’ 원한다…프랑스 매체 “이적 쉽지 않지만 마르세