[쿠키과학] AI의 ‘디지털 연령차별’… KAIST, 챗지피티 연령 고정관념 분석

GPT-4o 생성 문장 900건 분석
사회심리학 이론과 의미 분석 결합, AI 연령 편향 정량화
70대 이상 획일적 묘사 경향 확인
노년층 다양성 충분히 반영 못해
사회적 고정관념·디지털 연령차별 심화

KAIST가 생성형 인공지능(AI)이 노인을 따뜻하고 지혜로운 존재로 묘사하면서도 주체성과 역량은 낮게 평가하는 연령 편향을 정량적으로 규명했다.

아울러 이런 편향이 반복적으로 노출되면 고령층에 대한 사회적 고정관념과 디지털 연령차별을 강화할 수 있음을 경고했다.

KAIST 과학기술정책대학원 최문정 교수팀은 OpenAI의 챗지피티(ChatGPT)-4o가 생성한 문장에 내재된 연령 관련 고정관념을 분석한 결과를 28일 발표했다.

생성형 AI는 정보 검색과 문서 작성, 의사결정 지원 등 다양한 분야에서 활용 범위를 넓히고 있다.

하지만 학습 데이터에 포함된 사회적 편견을 그대로 반영하거나 확대할 가능성도 꾸준히 제기되고 있다.

기존 연구는 성별과 인종 편향에 집중했다면, 이번 연구는 고령화 사회에서 중요성이 커지는 연령차별을 AI 관점에서 분석했다.

연구팀은 10~90세까지 10년 단위 연령을 대상으로 ‘○○세 사람의 성격을 설명하라’는 동일한 질문을 입력해 챗지피티-4o가 생성한 문장 900개를 수집했다.

이후 사회심리학의 대표 이론인 고정관념 내용 모형을 적용해 문장의 의미를 분석했다.

이 이론은 사람이나 집단에 대한 인식을 따뜻함, 역량, 두 축으로 평가한다.

분석 결과 60세 이상 고령층은 친절함과 배려심, 신뢰성 등을 의미하는 따뜻함은 높게 평가됐지만 능력과 전문성, 효율성을 뜻하는 역량은 젊은 연령층보다 낮게 표현되는 경향이 나타났다.

연령이 높아질수록 자신의 의견을 적극적으로 표현하고 행동하는 자기주장성과 주도성을 나타내는 표현도 함께 감소했다.

연구팀은 챗지피티-4o가 노인을 지혜롭고 자애로운 존재로 묘사하면서도 능동성과 자율성은 상대적으로 낮게 표현하는 경향을 확인했다고 설명했다.

또 생성형 AI는 사람의 생애를 10~20대, 30~50대, 60대 이상 등 세 집단으로 구분해 묘사하는 경향을 보였다. 특히 70대 이상은 다양한 개인 특성보다 비슷한 이미지로 반복 표현돼 노년층을 하나의 획일적인 집단으로 인식하는 특성도 확인됐다.

연구팀은 이번 연구에서 단순히 특정 단어의 사용 여부를 분석하는 데 그치지 않고 문장의 의미를 수치화하는 임베딩 분석과 주성분 분석(PCA), 부분최소제곱 회귀모형(PLS) 등을 활용해 AI가 생성한 문장 속에 숨어 있는 미묘한 편향까지 정량적으로 측정했다.

연구팀은 이런 표현이 노골적인 차별처럼 보이지 않더라도 반복적으로 노출되면 노인에 대한 사회적 인식을 왜곡할 수 있다고 분석했다.

특히 대화형 AI가 의료, 금융, 채용, 생활지원 등 다양한 서비스에 적용되는 상황에서 이런 편향이 고령층의 디지털 참여를 제한하는 ‘디지털 연령차별’로 이어질 가능성이 있다고 지적했다.

최 교수는 “AI의 편향은 기술만의 문제가 아니라 사회가 가진 인식을 반영하는 문제"라며 ”포용적인 AI를 만들기 위해서는 다양한 세대가 개발 과정에 참여하고 연령 편향을 점검하는 기준도 함께 마련해야 한다"고 말했다.

한편, 이번 연구는 KAIST 과학기술정책대학원 홍완 박사과정이 제1저자로 수행했고, 연구결과는 국제학술지 ‘The Gerontologist’ 2월 특별호에 게재됐다.
(논문명: An Exploratory Semantic Analysis of Age-Related Stereotypes in OpenAI‘s GPT-4o Model)

이재형 기자 jh@kukinews.com