트위터 알고리즘 편향성, '뷰티 필터' 때문

스위스 EPFL 연구원 발견.."원본 사진보다 보정된 사진에 높은 점수 부여"

(지디넷코리아=김성현 기자)트위터 인공지능(AI) 알고리즘이 ‘뷰티 필터’로 인해 인물에 대한 편향성을 갖게된 것으로 밝혀졌다. 뷰티 필터는 피부 톤을 조절하고, 외모를 수려하게 만드는 카메라 보정 기술이다.

10일(현지시각) 미국 씨넷, 엔가젯 등 외신에 따르면 스위스 로잔연방공과대학(EPFL) 연구원들은 뷰티 필터가 트위터의 알고리즘 점수 체계를 왜곡한다는 사실을 발견하면서 트위터가 개최한 포상 대회에서 1위를 차지했다.

지난 8일 트위터는 자동 이미지 자르기 기능의 알고리즘 문제를 적출할 시, 포상하는 대회를 개최했다. 자동 이미지 자르기는 트위터 이용자가 인물 사진을 올릴 때 AI 알고리즘이 중요한 부분을 자동으로 추출하는 기능이다.

(사진=씨넷)

트위터가 2018년 도입한 이 기능을 자체 평가한 결과, 시스템이 편향성을 띠는 것으로 조사됐다. 남성과 여성, 흑인과 백인 사진을 함께 게재할 때 알고리즘이 각각 여성, 백인을 선별하는 경우가 많았다는 조사 결과다.

EPFL 연구원들은 이번 대회에서 원본 사진과 보정된 사진을 비교한 결과 날씬하면서 어리고, 하얀 피부를 가진 여성 사진에 알고리즘이 높은 점수를 부여한다는 점을 발견했다.

연구원들은 또한 보정으로 피부 톤이 밝아지거나, 포화도가 높은 색상에 알고리즘이 강하게 작동한다고 설명했다. 이들은 “이런 편향성은 곧 소수민족을 배제하고, 수천 개의 이미지에 정형화된 미의 기준을 영구화하는 결과를 초래할 수 있다”고 지적했다.

한편 다른 대회 참가자들은 트위터 알고리즘이 아랍어보다 라틴어 작문을, 피부가 밝은 이모티콘을 선호한다고 밝혔다.

김성현 기자(sh0416@zdnet.co.kr)