[단독] AI가 만든 세계에서 ‘소수자’는 지워진다

다국적 투자은행 골드만삭스가 추산한 올해 전세계 인공지능(AI) 인프라 투자 규모는 1조달러(1300여조원)다. 막대한 투자로 인공지능 기술 발전은 빨라지고 활용 범위는 크게 확대되고 있다. 하지만 ‘멋진 신세계’만 기다리고 있는 것은 아니다. 한겨레는 두차례에 걸쳐 인공지능 알고리즘이 소수자와 사회적 고통을 어떻게 배제하는지 보도한다

인공지능(AI)이 구축한 가상 세계에서 소수자가 사라지는 현상이 나타난다는 연구 결과가 나왔다. 챗지피티나 제미나이 같은 ‘대규모 언어모델’(LLM·엘엘엠) 알고리즘이 장애인과 성소수자 등을 연산 과정에서 지우고 있다는 지적이다. 정부 정책 등에 소수자 배제 편향성을 띤 인공지능 모델이 활용될 경우 사회적 차별과 불평등이 심화될 수 있다는 우려가 나온다.

한겨레는 18일 김승섭 서울대 보건대학원 환경보건학과 교수 연구팀(김수민·팽은지·김승섭)이 미국 코넬대학교가 운영하는 출판 전 논문 공개 누리집 ‘아카이브’(arXiv)에 등록한 논문을 입수했다. 논문 제목은 ‘침묵의 설계자: 페르소나가 입력된 대규모 언어모델은 소수자와 사회적 고통을 보이지 않게 만든다’이다.

이 논문에서 연구팀이 인공지능 반도체 기업인 엔비디아가 제작한 한국인 100만명 규모의 ‘합성 페르소나’(가상주체) 데이터를 엘엘엠에 입력한 뒤 1만명의 가상주체를 무작위로 추출해 질문한 결과, 자신을 소수자(장애인, 성소수자, 국외 출생자)라고 답한 사례가 단 한건도 없는 것으로 드러났다. 인공지능이 생성한 가상 세계에서 소수자가 완전히 지워지는 현상이 확인된 것이다.

엔비디아는 지난 4월 “대한민국의 실제 인구통계학적 분포와 지리적·문화적 특성을 정밀하게 반영해 재현했다”며 100만명 규모의 ‘페르소나 데이터세트(자료 집합)’를 공식 발표하고, 무료로 서비스하고 있다. 이 자료는 인공지능 서비스 개발과 학습, 고객 마케팅, 리서치 등 다양한 분야에서 활용될 수 있다.

연구팀은 논문에서 “인공지능 모델이 사회적 불평등을 증폭시킬 수 있는 인간 대상 연구나 (정부) 정책 수립에 더 널리 적용되기 전에 추가적인 검토가 시급하다”고 밝혔다.

■페르소나 데이터란?…국가 인구 통계 바탕한 가상주체 데이터셋

엔비디아는 지난해부터 각 국가의 인구 통계를 바탕으로 성별·직업 등을 정교하게 구현한 대규모 가상주체 데이터셋(자료 집합), ‘네모트론 페르소나 데이터’를 공개해왔다. 각국의 실정에 맞춘 활용이 가능하며, 현재 미국·인도·일본·프랑스 등 10개국 데이터가 구축돼 있다. 가상주체의 규모는 인도 300만명, 한국·미국·일본·프랑스·브라질 등이 각각 100만명에 이른다.

각 가상주체는 고유한 인격을 가진다. 예를 들어 “백정숙씨는 평택의 도시화를 지켜본 성실한 살림꾼이자, 역사 탐방과 배드민턴으로 활기찬 노후를 가꿔가는 꼼꼼하고 현실적인 60대 여성”과 같이 상세한 디테일이 부여된다. 여기에 “남편과 큰 갈등 없이 소소한 일상을 공유하며 평온한 관계를 유지하는 것에 가치를 둡니다” 등 가족 관계, 취미, 관심사, 문화적 배경 등도 정밀하게 설정돼 있다.

이런 페르소나 데이터의 활용 범위는 매우 넓다. 다른 인공지능(AI) 시스템의 머신러닝 학습은 물론, 제품에 대한 선호도 조사나 공공서비스 만족도 조사 등 수많은 분야에 적용할 수 있다.

특히 실제 사람을 조사할 때 드는 시간과 비용, 개인정보 유출 위험을 획기적으로 줄여주는 장점이 있다. 특정 상품에 대한 선호를 1천명에게 물어보기 위해서는 그의 몇배에 이르는 전화 연결이나 대면조사를 거쳐야 하지만, 페르소나 데이터를 활용하면 즉각적인 응답을 얻을 수 있다. 각종 공공정책에 대한 평가 역시 손쉽게 할 수 있다. 또한 사람을 상대로 조사하는 과정에서 벌어질 수 있는 개인정보 유출 등의 위험도 존재하지 않는다. 가상의 인물이기 때문이다.

이 같은 가상주체 데이터를 구축하려는 움직임은 빅테크 기업 전반으로 확대되는 추세다. 중국의 빅테크 기업인 텐센트는 엔비디아보다 앞선 2024년 6월 ‘페르소나 허브’ 프로젝트를 통해 10억명 규모의 가상주체 데이터셋을 공개한 바 있다.

정환봉 기자 bonge@hani.co.kr 이나영 기자 ny3790@hani.co.kr