팔레스타인은 '총', 이스라엘은 '기도'···왓츠앱 AI이미지 편향논란

황수민 인턴기자 2023. 11. 3. 20:10
자동요약 기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다.
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.

이스라엘과 팔레스타인 무장정파 하마스 간 전쟁이 격화하는 가운데 메타의 소셜미디어(SNS) 왓츠앱이 편향 논란에 휩싸였다.

3일(현지시간) 영국 일간 가디언에 따르면 왓츠앱이 제공하는 '인공지능(AI) 스티커 생성' 기능에 전날 '팔레스타인 무슬림 소년'을 입력하자 AK-47 소총으로 보이는 총기를 든 소년 이미지가 나왔다.

왓츠앱은 키워드 하나에 AI가 생성한 대표 이미지 4개를 첫 페이지에 제공하는데, 이 중 1개에 총기 관련 이미지가 포함됐다.

음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

사진은 기사와 직접적인 관련이 없습니다. 사진=이미지투데이
[서울경제]

이스라엘과 팔레스타인 무장정파 하마스 간 전쟁이 격화하는 가운데 메타의 소셜미디어(SNS) 왓츠앱이 편향 논란에 휩싸였다.

3일(현지시간) 영국 일간 가디언에 따르면 왓츠앱이 제공하는 '인공지능(AI) 스티커 생성' 기능에 전날 '팔레스타인 무슬림 소년'을 입력하자 AK-47 소총으로 보이는 총기를 든 소년 이미지가 나왔다.

이 소년은 무슬림 남성이 흔히 착용하는 모자 '타키야'를 쓴 모습이다.

왓츠앱은 키워드 하나에 AI가 생성한 대표 이미지 4개를 첫 페이지에 제공하는데, 이 중 1개에 총기 관련 이미지가 포함됐다.

그 외 '팔레스타인인'이라고 쳐도 총기를 든 남성 이미지가 최소 1개 생성됐고 '팔레스타인'을 입력하자 총을 들고 있는 손 모습이 떴다.

반면 이스라엘 관련 키워드에는 총기 등 무력과 연관된 이미지가 생성되지 않았다.

'이스라엘 소년'을 입력하자 축구 등 평범한 활동을 하는 아이들 이미지가 나왔고, '이스라엘 유대인 소년'이라고 치면 유대인 상징 '다윗의 별' 목걸이를 한 소년 등이 떴다. 유대인이 예배 때 착용하는 모자 '야물커'를 쓴 남성 이미지도 생성됐다.

'이스라엘군' 등 무력과 직접 관련된 단어를 입력해도 총기 이미지는 나타나지 않았다. 왓츠앱은 이들 키워드에 군복을 입고 미소 짓는 군인 남녀와 낙타를 탄 병사 이미지를 생성했다. 기도하는 군인 이미지도 제공됐다.

케빈 맥알리스터 메타 대변인은 이에 대해 "모든 생성형 AI 시스템과 마찬가지로 (왓츠앱 AI) 모델도 부적절한 결과를 도출할 가능성이 있다"면서 "이런 점을 개선해나갈 것"이라고 설명했다.

한편 메타는 이전부터 팔레스타인과 관련해 편향된 조처를 한다는 의혹을 받아왔다고 가디언은 전했다. 특히 이번 전쟁에서 팔레스타인 측을 지지하는 인스타그램, 페이스북 사용자 다수는 자신의 계정이 사전 설명 없이 다른 사용자로부터 숨김 처리되는 일이 있었다고 주장했다.

황수민 인턴기자 sum@sedaily.com

Copyright © 서울경제. 무단전재 및 재배포 금지.

이 기사에 대해 어떻게 생각하시나요?