“게임 도중 욕설이? 가짜 계정? AI가 잡는다” 마이크로소프트 Xbox, 네 번째 ‘투명성 보고서’ 발표
AI 기능 활용 사례 소개
17일 Xbox에 따르면, 이번 투명성 보고서에는 건전한 게임 환경을 만들기 위해 유해 콘텐츠를 식별하는 최신 AI 기능 도입 사례와 플레이어를 보호하는 차원에서 Xbox가 전개하고 있는 다양한 프로그램의 성과가 소개됐다.
이와 관련 회사 측은 “Xbox는 잠재적인 유해 요소를 판단하는 인간의 전문성을 확대하기 위해 책임감 있는 방식의 AI 활용을 추구하고 있다”면서 “특히 Xbox는 다변화하는 게임 환경에서 계속해 플레이어를 보호하기 위해서는 생성형 AI와 같은 최신 기술을 도입하고 책임감 있는 방향으로 유해 콘텐츠를 선별하고, 보고하고, 예방해야 한다고 판단했다”고 강조했다.
현재 활용되고 있는 기능으로는 잠재적으로 유해한 콘텐츠의 단어 및 구문을 감지해 대화 텍스트를 구분하는 ‘자동 라벨링(Auto Labeling)’과 유해한 콘텐츠를 신속하게 제거하고 불건전한 이미지를 식별할 수 있는 ‘이미지 패턴 매칭(Image Pattern Matching)’ 등이 있으며 해당 기능들은 마이크로소프트사의 초기 AI 기반 기능 투자 사례에 해당한다.
Xbox는 “마이크로소프트의 책임감 있는 AI 활용 표준에 따라 AI 기능을 활용하며 유해 콘텐츠를 분류 및 식별하고, 이로 도출된 정확하고 일관된 기준을 기반으로 조치를 취해 공정하게 게임 커뮤니티를 보호하고 있다”고 전했다.
이외에도 Xbox가 플레이어 보호 차원에서 운영하고 있는 다양한 시스템이 2023년 하반기 데이터에서 유의미한 성과를 냈다고 회사는 전했다.
‘규정 집행 경고 시스템(Enforcement Strike System)’을 통한 제재 효과도 입증됐다고 Xbox는 언급했다. 해당 경고 시스템은 플레이어가 규정 위반의 심각성을 이해할 수 있도록 돕고 건전한 플레이를 장려하기 위해 지난해 처음 도입됐다.
회사 측은 “시스템 도입 이후 경고를 받은 플레이어의 88%가 추가 제재로 이어질 수 있는 커뮤니티 기준 위반 행동을 하지 않았다”면서 “이 시스템은 플레이어가 커뮤니티 규정을 위반했을 때 경고를 주고, 경고 횟수가 늘어나는 만큼 이용 정지 기간이 길어지는 방식으로 운영된다”고 설명했다. 그러면서 “받은 경고는 6개월 동안 기록이 유지되며 플레이어에게는 최대 8번의 경고 조치가 누적될 수 있다”고 덧붙였다.
Xbox는 또한 경미한 규제 위반에 대한 게임 이용 정지 기한을 단축했는데, 정지 기한이 단축됐음에도 대부분의 플레이어는 한번의 이용 정지 조치만으로 스스로 행동을 개선한 것으로 파악됐다.
Xbox는 “가짜 계정을 발견하기 위한 투자를 지속하며, 가짜 계정 생성과 동시에 이를 신속하게 차단하고 가짜 계정이 초래할 피해로부터 플레이어를 선제적으로 보호하고 있다”고 말했다. 이에 지난 보고서에 1630만여 개로 집계됐던 가짜 계정 차단 집행 건수는 730만 개로 대폭 줄어들었으며, 가짜 계정 차단 집행 건수는 2년 만에 처음으로 감소하는 추세를 보였다는 설명이다.
한편 Xbox는 TV, 휴대전화, PC, 태블릿을 위한 마이크로소프트사의 엔터테인먼트 서비스다. Xbox를 통해 사용자는 게임, 라이브러리의 영화, TV 프로그램, 음악, 스포츠 등 다양한 콘텐츠를 즐길 수 있다.
Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지
- 최태원 둘째 딸, 올 가을 결혼…예비신랑은 중국계 미국인 사업가 - 매일경제
- “법원이 쐐기 박았다”…27년만의 의대증원 사실상 확정 - 매일경제
- “바닥 기던 이 주식, 갑자기 무슨 일?”…실적 발표후 10% 급등 - 매일경제
- “한달만에 분위기 확 바뀌었다”…원화값 5달만에 최대폭 반등 - 매일경제
- “대부분 여성인데, 80대男이랑 같이 자라니”…황당한 요양보호사 구인공고 - 매일경제
- “실버타운 가면 연금 받고 월세도 받는대요”...20일부터 확 달라지는 ‘이것’ - 매일경제
- 1만원대 뷔페·3990원 간편식에 난리…‘가성비’ 앞세우자 매출 고공행진 - 매일경제
- “외국인·기관 쓸어담더니”…시총 10조 턱밑까지 올라간 ‘이 종목’ - 매일경제
- “내신 편차 커 수능성적 안볼 수 없어”…고2, 대입 전략 다시 짜야겠네 - 매일경제
- 라이벌 아스널 우승 막았다? SON의 외침…“올인했다, 최선 다했어” - MK스포츠