MS, '애저 AI 콘텐츠 세이프티' 출시…유해성 점수로 표기

(서울=연합뉴스) 홍국기 기자 = 마이크로소프트(MS)가 안전한 인공지능(AI) 콘텐츠 사용 환경 제공을 위해 '애저 AI 콘텐츠 세이프티'를 출시했다고 18일 밝혔다.

애저(Azure)는 MS의 클라우드 컴퓨팅 플랫폼이다.

애저 AI 플랫폼에서 제공되는 애저 AI 콘텐츠 세이프티는 고급 언어와 비전 모델을 사용해 증오나 폭력 등 잠재적으로 유해한 콘텐츠를 감지해 심각성을 점수로 표시한다.

독립적 실행이 가능한 시스템으로, 기업과 조직은 내부 정책에 근거해 유해 콘텐츠를 차단하거나 서비스를 맞춤화할 수 있다고 MS는 소개했다.

예를 들어 게임에 중점을 둔 플랫폼이 학생 교육용 콘텐츠를 제작할 경우 폭력성·유해성에 대한 언어 표현 수준을 다르게 설정할 수 있다.

MS는 멀티모달(복합 정보 처리) 모델과 관련한 지속적인 연구를 통해 불쾌감을 유발할 수 있는 이미지, 텍스트 등의 창작물 감지 기능도 강화할 예정이라고 덧붙였다.

redflag@yna.co.kr

▶제보는 카톡 okjebo

IT/과학