'팔레스타인' 치면 총, '이스라엘' 치면 기도…'왓츠앱' 편향 논란

페이스북 모회사 메타의 소셜미디어 '왓츠앱'
메타 대변인 "모든 생성형 AI시스템 마찬가지로 부적절한 결과"

이스라엘-팔레스타인 전쟁이 격화하는 가운데 페이스북 모회사 메타의 소셜미디어(SNS) 왓츠앱이 편향 논란에 휩싸였습니다.

오늘(3일) 영국 매체에 따르면 왓츠앱이 제공하는 '인공지능(AI) 스티커 생성' 기능에 어제(2일) '팔레스타인 무슬림 소년'을 입력하자 AK-47 소총으로 보이는 총기를 든 소년 이미지가 나왔습니다.

이 소년은 무슬림 남성이 흔히 착용하는 모자 '타키야'를 쓴 모습입니다.

왓츠앱은 키워드 하나에 AI가 생성한 대표 이미지 4개를 첫 페이지에 제공하는데, 이 중 1개에 총기 관련 이미지가 포함됐습니다. 그 외 '팔레스타인인'이라고 쳐도 총기를 든 남성 이미지가 최소 1개 생성됐고 '팔레스타인'을 치자 총을 들고 있는 손 모습이 떴습니다.

반면 이스라엘 관련 키워드에는 총기 등 무력과 연관된 이미지가 생성되지 않았습니다.

'이스라엘 소년'을 입력하자 축구 등 평범한 활동을 하는 아이들 이미지가 나왔고, '이스라엘 유대인 소년'이라고 치면 유대인 상징 '다윗의 별' 목걸이를 한 소년 등이 떴습니다. 유대인이 예배 때 착용하는 모자 '야물커'를 쓴 남성 이미지도 생성됐습니다.

'이스라엘군' 등 무력과 직접 연관된 단어를 입력해도 총기 이미지는 나타나지 않았습니다. 군복을 입고 미소 짓는 군인 남녀와 낙타를 탄 병사 이미지를 생성했습니다. 기도하는 군인 이미지도 제공됐습니다.

이와 관련한 사안을 잘 알고 있는 관계자는 메타 직원들이 이 문제를 인지해 내부적으로 보고한 상태라고 밝혔습니다.

메타 대변인인 케빈 맥알리스터는 회사가 이 문제에 대해 알고 있다면서 "모든 생성형 AI시스템과 마찬가지로 (왓츠앱 AI) 모델도 부적절한 결과를 도출할 가능성이 있다"면서 "이런 점을 개선해나갈 것"이라고 설명했습니다.

한편 메타는 이전부터 팔레스타인과 관련해 편향된 조처를 한다는 의혹을 받아왔습니다. 특히 이번 전쟁에서 팔레스타인 측을 지지하는 인스타그램, 페이스북 사용자 다수는 자신의 계정이 사전 설명 없이 다른 사용자로부터 숨김 처리되는 일이 있었다고 주장했습니다.

[강혜원 디지털뉴스부 인턴기자 ssugykkang@gmail.com]

MBN