AI 의존 시대, 더 똑똑해지지만 더 비슷해진다

곽노필의 미래창
챗봇 사용 늘수록 글쓰기·추론 방식 표준화
효율성 높지만 인지적 다양성 약화될 우려
편향된 인공지능 의견에 수렴하는 경향도
“훈련 데이터에 다양한 언어·관점 반영해야”

인공지능이 연구나 업무 생산성은 높이지만 사고의 다양성을 약화시키고 획일화를 조장한다는 지적이 나오고 있다. 픽사베이

챗봇을 쓰면서 인공지능의 논리정연한 답변에 고개를 끄덕이면서도 혹시 자신이 인공지능에 말려들어가는 것은 아닌지 의심한 적이 있는가?

인공지능이 연구나 업무 생산성은 높이지만 사고의 다양성을 약화시키고 획일화를 조장한다는 지적이 잇따라 나오고 있다.

미국 시카고대 연구진은 지난 1월 인공지능이 과학자 개인의 연구 성과는 높이지만 연구 생태계의 다양성은 약화시키는 경향을 보인다고 국제학술지 네이처에 발표했다. 이에 따르면 인공지능을 활용하는 과학자는 그렇지 않은 과학자에 비해 논문 생산량이 3배 많았으나, 연구 주제의 범위는 4.6% 줄었고 과학간 상호참조도 22% 감소했다. 이런 경향은 과학자들이 새로운 연구 영역을 개척하는 대신 기존의 틀 안에 안주하는 흐름으로 이어질 수 있다는 우려를 낳았다.

이번엔 한 발 더 나아가 인공지능이 사람들이 일상적으로 말하고 쓰고 생각하는 방식까지 획일화(동질화)하고 있으며, 사람들은 무심코 인공지능 의견에 동조하는 모습을 보인다는 두편의 연구 결과가 동시에 나왔다.

미국 서던캘리포니아대 연구진은 12일 국제학술지 ‘인지과학 동향’(Trends in Cognitive Sciences)에 발표한 리뷰논문에서, 인공지능에 의한 획일화가 계속될 경우 인간의 집단 지성과 적응력이 저하될 위험이 있다고 경고했다.

논문 제1저자인 지바르 소우라티 박사과정 연구원(컴퓨터과학)은 “사람들은 서로 다른 방식으로 글을 쓰고, 추론하고, 세상을 바라보는데, 똑같은 모델을 쓰게 되면서 이런 차이점이 해소되고 표준화된 표현과 사고방식이 생성된다"고 말했다.

앞서 소우라티와 동료 연구자들은 2022년 말 챗지피티가 출시되기 전과 후의 레딧 게시물, 뉴스 콘텐츠 등을 분석한 결과, 챗지피티 출시 이후에 나온 것들의 문체 다양성이 떨어지는 경향이 있음을 발견한 논문을 2025년 출판전 논문 공유집 아카이브에 발표한 바 있다.

인공지능을 사용한 논문은 주제 범위가 좁고 특정 문제에 대한 밀집도가 높다. 네이처(https://doi.org/10.1038/s41586-025-09922-y)

부유한 서유럽 산업국 언어와 이념에 편향

연구진에 따르면 인지적 다양성은 창의성과 문제 해결 능력을 높여준다. 하지만 전 세계 수십억 인구가 몇몇 인공지능 챗봇에만 의존하면서 인지적 다양성이 줄어들고 있다. 예컨대 글을 다듬기 위해 챗봇을 사용하면 각자가 갖고 있는 개성 있는 문체가 사라진다. 이는 또 자신이 만들어낸 결과물에 대한 애착도 약화시킨다.

연구진은 특히 인공지능이 쓰고 말하는 방식을 바꾸는 것을 넘어 신뢰할 수 있는 발언, 올바른 관점, 심지어는 타당한 추론으로 간주되는 기준까지 재정의한다는 점을 지적했다. 예컨대 인공지능은 주로 ‘부유한 서유럽 고학력 산업 민주 국가’(WEIRD=Western, Educated, Industrialized, Rich,D emocratic)의 언어, 가치관, 사고방식을 반영하는 경향이 있다는 것이다. 소우라티는 “언어모델이 훈련하는 데이터는 이들 지역의 언어와 이념을 과도하게 대표하기 때문에, 그 결과물은 편협하고 왜곡된 단면만을 반영하는 경우가 많다”고 말했다.

연구진은 인공지능에 의한 획일화는 집단에 적용될 때 문제가 더 크다고 강조했다. 소우라티는 “인공지능을 직접 사용하지 않더라도 주변의 많은 사람들이 특정한 방식으로 생각하거나 말하고 있다면, 누구든 그들과 보조를 맞춰야 한다는 압박감을 느끼게 될 것”이라고 말했다. 그렇게 하는 것이 더 신뢰할 만하거나 사회적으로 용인되는 방식처럼 보일 것이기 때문이다.

연구진은 또 편향된 인공지능을 접한 후엔 그 인공지능의 의견과 더 비슷해지는 경향이 있다는 점도 지적했다. 사람들은 결과물 생성을 직접 주도하기보다 인공지능이 제안하는 문장이나 아이디어를 따라거나 스스로 해결책을 찾는 대신 ‘꽤 괜찮아 보이는 선택지’를 고르는 경우가 많다. 소우라티는 “이는 사용자가 갖고 있던 주도권이 점차 인공지능으로 넘기는 결과를 초래한다”고 말했다. 인공지능이 선호하는 선형적 추론 방식은 사람들의 직관적, 추상적인 사고를 억제하는 부작용도 있다.

이런 경향은 미국 코넬대가 중심이 된 국제연구진이 12일 ‘사이언스 어드밴시스’에 발표한 연구에서도 확인됐다. 연구진이 2582명을 대상으로 편향적인 내용의 자동완성 기능을 제공하는 인공지능을 사용해 사회문제에 대한 글을 쓰도록 하는 실험을 한 결과, 참가자들의 글이 인공지능의 입장에 수렴하는 모습을 보였다. 참가자들은 그러나 인공지능의 편향성을 인지하지도, 자신이 영향을 받았다는 사실도 알아차리지 못했다.

류제명 과학기술정보통신부 2차관이 1월15일 인공지능 주권 확립을 목표로 하는 ‘독자 AI 파운데이션 모델 사업’ 1단계 평가 결과를 발표하고 있다. 정용일 선임기자 yongil@hani.co.kr

한국의 소버린AI도 서울 편향 점검해야

연구진은 인간사회의 다양성을 잃지 않으려면 인공지능 개발자들이 언어, 관점, 추론 방식의 다양성을 의도적으로 모델에 반영해야 한다고 강조했다. 소우라티는 "만약 거대언어모델이 더 다양한 방식으로 아이디어와 문제를 다룬다면, 우리 사회의 집단 지성과 문제 해결 능력을 더욱 잘 지원할 수 있을 것"이라고 말했다.

박한우 영남대 교수(미디어커뮤니케이션학)는 이번 연구는 한국의 ‘소버린 AI’, 즉 인공지능 주권 정책에도 중요한 시사점을 제공한다고 말했다. 박 교수는 “소버린 AI는 특정 지역이 아니라 국가 전체를 대표하는 알고리즘으로 설계되어야 하지만 현실에서는 서울 지역 중산층 이상이 사용하는 언어가 사실상 표준어로 기능한다”며 “이는 결과적으로 서울 중심의 언어 질서를 더욱 공고하게 만들어 지역 균형 발전을 저해하는 요인이 될 수 있다”고 말했다. 박 교수는 따라서 정책 당국은 서울 중심의 소버린 AI가 지역 관점을 어떻게 반영하는지, 특정 지역에 대한 질문에 충분한 답변을 제공하는지 등을 지속적으로 점검해야 한다고 강조했다.

*논문 정보

The homogenizing effect of large language models on human expression and thought.

DOI: 10.1016/j.tics.2026.01.003

Biased AI Writing Assistants Shift Users’ Attitudes on Societal Issues.

DOI:10.1126/sciadv.adw5578

Artificial intelligence tools expand scientists’ impact but contract science’s focus.

https://doi.org/10.1038/s41586-025-09922-y

곽노필 선임기자 nopil@hani.co.kr