‘AI 아첨’ 사용자 대인관계에 부정적 영향 미친다

AI 동조에 ‘자신이 옳았다’ 확신 커져
타인에 사과·행동 수정 의지 줄어

인공지능(AI)의 ‘아첨(Sycophancy)’ 기능이 일반 사용자들의 대인관계에 부정적 영향을 미칠 수 있다는 새 연구 결과가 나왔다. 대인관계 갈등 상황에서 AI가 사용자의 입장을 두둔해주자 자신이 옳았다는 확신이 커진 것이다. 갈등을 빚은 상대방에게 먼저 사과하거나 자신의 행동을 수정할 의지도 줄었다. AI 사용으로 자칫 일상에 안 좋은 영향이 미칠 여지가 충분한 것이다.

국제적으로 최고 권위를 자랑하는 사이언스지의 지난 3월 26일자 표지는 AI의 아첨 기능을 비판적으로 검토한 미국 스탠퍼드대 연구팀의 논문이 차지했다. 사이언스는 ‘독이 든 칭찬(Toxic Praise)’이란 제목을 달았다. ‘아첨하는 AI는 친사회적 의도를 약화시키고 의존성을 심화시킨다(Sycophantic AI decreases prosocial intentions and promotes dependence)’는 논문이었다. ‘아첨’은 AI가 사용자에게 전적으로 동조하고 공감해준다는 의미를 담고 있다.

연구팀은 총 2405명의 참가자를 대상으로 흥미로운 실험을 진행했다. 가상의 대인관계 갈등 시나리오를 제시한 뒤 한 그룹에만 아첨성 답변을 제공했다. 아첨성 답변을 읽은 그룹에서는 아첨하지 않는 답변을 읽은 그룹에 비해 자신이 옳다는 확신이 62% 증가했고, 관계 회복 의지는 28% 감소했다. 참여자 본인이 직접 겪은 갈등 사례에서도 같은 현상이 확인됐다. 아첨 성향의 AI와 대화한 뒤 자신의 행동이 정당했다는 자기 확신은 25% 증가했고, 관계 회복 의지는 10% 감소했다.

‘말투’는 변수가 되지 않았다. 따뜻하고 친근한 말투와 기계적인 말투의 답변을 각각 제시했지만 사용자들의 판단에 별다른 영향을 미치진 못했다. ‘답변 출처’ 역시 변수가 아니었다. AI의 아첨성 답변을 제공하면서 한 그룹에는 ‘사람이 쓴 답변’이라고 설명했고, 다른 그룹에는 ‘AI 답변’이라고 각각 안내했다. 하지만 출처와 무관하게 아첨하는 답변을 받은 이들의 자기 확신은 크게 증가했고 관계 회복 의지는 감소했다. 논문은 “AI 답변이라는 출처를 명확히 공개하는 것만으로는 AI 아첨의 설득력과 부작용을 줄일 수 없다”고 분석했다.

사람들은 예상보다 아첨에 취약했다. 실험에 참여한 이들은 아첨성 답변을 내놓은 AI의 능력과 도덕적 신뢰도를 모두 더 높게 평가했다. 비슷한 상황에서 해당 AI를 다시 이용하겠다는 응답률도 증가했다. 결국 더 많은 사용자를 끌어모아야 하는 AI 기업 입장에서는 ‘아첨’을 줄일 동기가 충분하지 않다고 논문은 지적했다.

연구팀은 특히 “AI의 아첨과 동조가 단순히 개인의 기분을 맞춰주는 것이 아니라 사람들의 판단을 왜곡하고 도덕적 책임감을 악화시키는 피해를 유발할 수 있다”고 경고했다. 사람들이 자신에게 동조하는 AI의 답변을 객관적이고 공정하다고 믿으면서 결국 대인관계가 악화될 수 있다는 것이다. AI의 아첨성이 ‘사회적 피해’를 초래할 위험이 있다고 결론내린 연구팀은 제도적 규제를 대안으로 제시했다. 대표적인 게 배포 전 아첨성 사전영향 평가다. AI 모델이 대중에게 배포되기 전 규제 기관이 해당 모델의 아첨 발생 빈도와 사용자에게 미칠 위험성 등에 대한 평가를 의무화해야 한다는 것이다. 또 AI 기업과 개발자들이 단기적인 사용자의 만족도를 넘어 장기적인 사회적 영향까지 고려해야 한다고 촉구했다.

이 연구에 참여했던 이신우 스탠퍼드대 박사(현 마이크로소프트 시니어 응용과학자)는 지난달 30일 국민일보와의 화상 인터뷰에서 “대학생들이 이별 문자를 작성하거나 대인관계에서 문제가 생겼을 때 AI를 사용한다는 얘기를 듣고 실험을 기획하게 됐다”며 “실제 일상 생활에서 AI가 어떤 영향을 미치는지 분석하고 싶었다”고 말했다. 이어 “개인 사용자 입장에선 AI의 아첨성을 눈치채지 못할 가능성이 크고 신중하고 합리적인 답변처럼 느끼기 쉽다”며 “실험 참여자들도 AI로부터 아첨성 답변을 듣고 객관적이고 공정하다고 평가한 경우가 많았다”고 소개했다.

이 박사는 기업 차원에서는 아첨을 제거할 동기가 부족하기 때문에 사회적인 차원의 검증 구조가 필요하다고 지적했다. 그는 “마치 사전에 의약품을 테스트하듯 AI 서비스 역시 출시 전 테스트를 해볼 필요가 있다”고 말했다.

이 박사는 AI가 무조건 나쁘다는 것을 이야기하려는 연구는 아니었다고 설명하면서 “AI가 폭발적으로 성장하는 지금이 AI와 사람의 관계를 깊이 고민해야 할 때이며 사람들이 더 건강하고 사회가 행복한 방향으로 AI 기술이 발전하고 사용되기를 바란다”고 강조했다.

이슈탐사팀=김판 이강민 김지훈 기자 pan@kmib.co.kr