질서 만들고, 관행 뒤집고…인간 꼭 닮은 AI 집단

英·덴마크 연구진 실험서 확인
"스마트공장에 활용 가능하지만
집단편향 가능성 있어 신중해야"

‘사람이 개입하지 않아도 인공지능(AI) 모델이 상호작용을 통해 집단 합의에 이르고, 소수 AI 모델이 기존 규범을 뒤집는 일까지 발생할 수 있다.’ 영국 시티세인트조지대와 런던대, 덴마크 코펜하겐정보기술(IT)대 연구진이 최근 밝혀낸 연구 결과다. AI가 인간처럼 스스로 질서를 구축한다는 것이 요지다.

연구진이 최근 국제학술지 사이언스 어드밴시스에 발표한 논문에 따르면 대규모언어모델(LLM) 기반 AI 에이전트가 인간처럼 집단 내에서 규범을 자발적으로 정립하는 현상이 관찰됐다. 단순히 특정 패턴을 반복하는 것에 그치지 않고 사회적 합의에 가까운 행동을 보였다는 설명이다.

연구진은 24~200개 AI 에이전트로 구성된 집단을 ‘이름 선택 게임’에 참여시켰다. 무작위로 짝지어진 두 에이전트는 두 가지 이름 중 하나를 선택한다. 같은 이름을 고르면 둘 다 보상을 받고 다르면 벌점을 받는다. 상대의 선택과 결과만 기억하며 집단 전체 상황은 알 수 없도록 설정했다. 그 결과 여러 에이전트가 보상을 얻은 다른 에이전트의 선택을 기억하고 따라 하는 방식으로 특정 이름을 반복적으로 선택해 그 이름이 점차 집단의 규범으로 자리 잡았다. 연구진은 이것이 인간 사회에서 규범이 형성되는 메커니즘과 비슷하다고 설명했다.

또 소수 에이전트가 집단 전체의 규범을 뒤집는 현상도 확인됐다. AI 에이전트 간 자율 협업은 산업 전반에서 가장 주목받는 기술 중 하나다. 독일의 글로벌 제조업체 지멘스는 지난 12일 산업용 AI 에이전트를 공개했다. 스마트팩토리의 핵심 인프라로, 기능별로 특화한 AI 에이전트가 연결돼 자율적으로 협력한다.

연구진은 논문에서 “AI가 상호작용을 기반으로 서로 영향을 주고받는 게 입증됐다”고 했다. 다만 집단 편향이 나타날 수 있는 만큼 AI 협업 시스템 설계 단계에서부터 신중해야 한다고 강조했다.

최영총 기자 Youngchoi@hankyung.com