`AI추천의 함정`…"자기취향·견해 갇힌 `고치`속 사람 양산"

통계물리·계산과학·공공정책 등 中전문가들 1년간 공동연구
유사한 콘텐츠·제품·사람 무한 연결하는 알고리즘의 폐해
"양극화와 갈등 부추겨…사회적 공익 위한 AI 연구 나서야"

이미지=픽사베이

"블라디미르 푸틴 러시아 대통령은 점점 더 고립되고 편집증에 빠져 외부 세계와 단절돼 '누에고치'처럼 살고 있다."

서방으로 망명한 한 러시아 연방경호국 전 정보장교가 올초 한 얘기다. 영국 대중매체 더 선은 이 인사의 말을 인용, 푸틴은 세계와 연락이 끊긴 채로 지난 몇 년 동안 '정보 누에고치(information cocoons)'에서 살았고, 대부분의 시간을 벙커라고 부르는 자신의 거주지에서 보냈다"고 보도했다.

'정보 누에고치'는 단지 푸틴뿐 아니라 현대를 살아가는 대부분의 사람들이 겪는 현상이다. 사용자의 취향과 관심사, 선호도에 맞춰 소셜미디어와 플랫폼이 맞춤 정보를 제공하다 보니 점점더 좋아하고 추구하는 방향의 정보에 갇히는 것이다. 그 결과 사람들은 자신과 반대되는 관점이나 의견을 갈수록 접하지 않고 결국 자신의 생각과 취향이 점점더 강화되면서 편견과 편향, 갈등으로 치닫는다.

중국 칭화대학교 용 리 교수가 이끄는 연구팀은 사람들이 온라인 공간에서 선호하는 생각이나 취향을 더 많이 접하게 되는 '정보 누에고치' 형성의 근간이 되는 역학 관계를 조사했다. 통계물리학, 계산과학, 공공정책 등 다양한 분야의 전문성을 갖춘 연구자들이 1년간 공동 연구를 펼쳤다. 조사결과는 국제학술지 '네이처 머신 인텔리전스(Nature Machine Intelligence)'에 논문으로 발표했다.

초개인화를 가능케 하는 AI(인공지능) 알고리즘이 등장하면서 정보 누에고치 현상은 더 심화되고 있다. AI가 그 사람이 좋아할 정보만 노출하다 보니 편향된 신념이 강화되고, 맹목적인 신념이 부딪히면서 사회적 갈등이 심화되는 것. 듣고 싶은 것만 듣고 보고 싶은 것만 골라보는 사람들이 사이버 공간에서 만나 패거리를 만들어 편향된 사고를 공유하는 현상을 '에코챔버(echo chamber)' 현상이라고 한다. 방송이나 녹화 시 음향효과를 만들어내는 방에서 소리를 내면 그 소리가 메아리가 돼 돌아온다는 뜻에서 유래됐다.

논문의 제1저자인 징화 피아오는 기술 전문매체 '테크 익스플로어(Tech Xplore)'에 "AI는 모든 종류의 인간 활동에 스며들어 현대 생활의 모든 측면에 알고리즘을 심어넣고 있다"면서 "AI 알고리즘의 광범위한 확산으로 인해 이념적으로 다양한 뉴스와 의견, 정치적 견해, 친구에 노출되지 못하는 문제가 드러나고 있다"고 밝혔다. 텍크 익스플로어는 이 연구결과를 10월 31일(현지시간) 소개했다.

연구진은 특히 가장 널리 채택된 AI 기술 중 하나인 추천 알고리즘이 인간을 다양한 정보로부터 고립시켜 결국 정보 누에고치라고 하는 단일 주제나 관점에 갇히게 한다고 짚었다.

정보 누에고치는 편견과 사회 양극화를 악화시키고, 성장과 창의성, 혁신을 방해할 뿐 아니라 포용적인 세상이 되기 힘들게 하지만 그 기저에 깔린 메커니즘은 제대로 이해되지 않고 있다. 이번 연구의 핵심 가정은 정보 누에고치의 형성을 인간이나 추천 알고리즘 한 쪽의 탓으로만 돌릴 수 없다는 것이다. 대신 연구팀은 여러 개체 간의 복잡한 상호작용과 정보교환의 결과로 만들어진다고 봤다.

피아오는 "인간과 AI 기반 추천 알고리즘 간의 상호작용 피드백 루프에서 발생하는 적응적 정보 다이내믹스가 정보 누에고치 형성으로 이어짐을 밝혀냈다"고 말했다. 피드백 루프는 △유사성 기반 매칭 △긍정적 피드백 △부정적 피드백 △랜덤 자기 탐색 등 필수 요소에 의해 특징지어진다.

유사성 기반 매칭은 추천 알고리즘이 사용자를 과거에 소비한 콘텐츠나 제품, 상호작용한 사용자와 가장 유사한 콘텐츠, 제품, 사용자와 매칭하는 것이다. 연구팀은 유사성 기반 추천 경향이 소셜미디어와 네트워크에서 정보 누에고치를 만드는 핵심이라는 사실을 발견했다.

피아오는 "여기에다 긍정적인 피드백은 이런 효과를 더욱 증폭시켜 정보 엔트로피(즉, 정보 다양성)를 감소시킨다"면서 "반면 부정적 피드백과 랜덤 자기 탐색은 저항력을 바탕으로 정보 다양성을 촉진하는 원동력"이라고 짚었다. 궁극적으로 AI 추천 알고리즘과 사람과의 상호작용을 통해 정보 누에고치가 출현하는 과정에서 △유사성 기반 매칭의 지속적인 강화와 △긍정적 피드백과 부정적 피드백 사이의 불균형이 핵심 프로세스로 작용함을 확인했다.

연구진은 정보 누에고치를 완화하는 방안으로, 부정적인 피드백의 효과적인 활용을 제시했다. 사용자가 싫어하는 것을 파악해 그들의 선호도에 대한 새로운 관점을 제공하는 것. 두 번째로는 사용자가 알고리즘에 대해 더 큰 자율성을 행사할 수 있도록 해서 접하는 정보를 다양화하는 자기 탐색 강화를 꼽았다. 이 같은 연구결과는 대안적인 AI 도구와 전략 개발에 활용될 수 있을 전망이다.

피아오는 "앞으로 계산과학의 관점에서 AI를 위한 복잡계와 사회적 공익을 위한 AI에 대해 연구하고, 그 결과를 바탕으로 관련 공공정책이 설계되도록 힘쓸 방침"이라고 말했다. 안경애기자 naturean@dt.co.kr