“회의 가면 아이디어가 전부 똑같아요”...심지어 문체까지도 판박이라는데

미 서던캘리포니아대 연구팀
AI에 의탁한 사고 획일화 경고
모두 동일한 언어모델 사용해
고유의 문체·추론 방식 상실
직관적 사고 줄고 기계적 추론 의존

[픽사베이]

보고서를 쓰거나 이메일을 보낼 때 인공지능(AI) 챗봇의 도움을 받는 일이 일상이 됐다. 하지만 AI가 문장을 매끄럽게 다듬어주는 사이 각자의 고유한 말투와 생각까지도 기계처럼 똑같아지고 있다는 경고가 나왔다.

미국 서던캘리포니아대(USC) 컴퓨터과학과 지바 수라티 연구팀은 11일(현지 시간) 국제 학술지 ‘트렌드 인 코그니티브 사이언스(Trends in Cognitive Sciences)’를 통해 AI 대형언어모델(LLM)이 인간의 표현과 사고를 획일화하고 있다는 분석을 발표했다.

연구팀은 전 세계 수십억 명의 사람들이 챗GPT 같은 소수의 똑같은 AI 챗봇에 의존하면서 인류 전체의 ‘인지적 다양성’이 줄어들고 있다고 지적했다. 인지적 다양성이란 사람마다 세상을 보고 문제를 해결하는 방식이 다른 것을 뜻한다. 이 다양성이 풍부해야 사회 전체의 창의력과 문제 해결 능력이 높아지는데, AI가 이를 갉아먹고 있다는 것이다.

문제는 AI가 서양의 교육받고 산업화된 부유한 국가 중심의 데이터로 주로 학습됐다는 점이다. 수라티 연구원은 “AI가 사람들의 글쓰기와 말하기 방식을 결정할 뿐만 아니라, 무엇이 신뢰할 수 있는 말이고 올바른 생각인지를 은연중에 다시 정의하고 있다”고 꼬집었다. 사람들은 AI가 제시하는 문장이 ‘적당히 쓸만하면’ 그대로 받아들이며, 스스로 생각하는 주도권을 기계에 넘겨주고 있다.

실제로 여러 연구에 따르면 개인이 AI를 쓰면 더 상세한 아이디어를 내기도 하지만, 그룹 단위로 모였을 때는 인간끼리만 머리를 맞댈 때보다 오히려 뻔하고 창의적이지 못한 아이디어만 도출되는 것으로 나타났다.

또한 AI는 단계별로 논리를 전개하는 ‘생각의 사슬(chain-of-thought)’ 방식 같은 기계적이고 선형적인 추론을 선호한다. 이 때문에 인간 특유의 번뜩이는 직관이나 추상적인 사고 방식은 점차 설 자리를 잃고 있다. 심지어 AI를 직접 쓰지 않는 사람조차 주변 사람들이 모두 AI가 다듬은 매끄러운 방식으로 소통하면, 자신도 그에 맞춰야 한다는 사회적 압박을 느끼게 된다고 연구팀은 분석했다.

이러한 현상에 대해 전문가들은 사회학자 조지 리처의 ‘맥도날드화(McDonaldization)’ 이론을 빌려 설명한다. 이는 패스트푸드점의 원리인 효율성, 계산 가능성, 예측 가능성, 통제가 사회 전반을 지배하게 되는 현상을 의미한다. 효율성 등을 우선하는 구조가 알고리즘 설계에도 반영되면서, 맥락적 다양성과 문화적 복잡성이 억제되고 있다는 분석이다.

국내 전문가들 역시 이러한 AI의 획일화 경향이 한국 사회의 고질적인 문제인 ‘수도권 집중화’를 심화시킬 수 있다고 우려한다. 박한우 영남대 미디어커뮤니케이션학과 교수는 이번 연구 결과에 대해 “AI에 입력되는 데이터의 편향성은 알고리즘 학습 과정에 그대로 반영되며, 특히 LLM에서는 언어 문체와 관점 선택, 추론 방식에서 뚜렷하게 나타난다”고 설명했다.

박 교수에 따르면 챗GPT나 제미나이 같은 LLM 서비스는 파운데이션 모델 단계에서 국가별·문화권별 언어 데이터베이스를 별도로 구축하지 않는다. 따라서 특정 문화권의 독특한 추론 방식을 반영하기 어렵다. 프롬프트를 조정해 다양한 관점을 모사할 수 있다는 주장도 있지만, 실제 실험 결과 LLM의 출력 다양성은 인간의 실제 응답보다 변이가 훨씬 적었으며, 여전히 서구 중심 사회의 패턴에 정렬되는 경향을 보였다.

특히 박 교수는 한국의 ‘소버린 AI(Sovereign AI·AI 주권)’ 정책이 가질 위험성을 경고했다. 그는 “현재 한국의 AI는 서울 지역 중산층 이상이 사용하는 언어가 사실상 표준으로 기능하며 서울 중심의 언어 체계를 강화하고 있다”며 “서울어 기반의 AI 비서 서비스는 지방의 독특한 사고와 표현 방식을 밀어내고, 결과적으로 지역 소멸을 가속화할 수 있다”고 지적했다.

그는 이어 “정책 당국은 소버린 AI가 지역 관점을 어떻게 반영하는지 지속적으로 모니터링해야 하며, 다가오는 지방선거에서 유권자들은 지역의 언어와 문화를 연결하는 ‘국민주권형 LLM’ 정책에 관심을 가져야 한다”고 강조했다.

결국 미래 세대의 창의성과 인지적 다양성을 보호하기 위해서는 AI 모델의 훈련 데이터에 전 세계 인간의 실제 다양성을 의도적으로 포함시켜야 한다는 것이 학계의 공통된 목소리다. 수라티 연구원과 박 교수는 “AI가 특정 집단의 추론 방식만을 반영하는 것은 장기적으로 인류 전체의 민주적 인지 능력에 악영향을 미칠 수 있다”는 공통된 의견을 냈다.