“네 말이 맞아” AI가 아첨…실험결과 봤더니

[앵커]

인공지능이 우리 아이들의 판단과 행동에 상당한 영향을 미치고 있단 보도, 전해드렸는데요.

그렇다면 인공지능이 어떻게 아이들의 마음과 신뢰를 얻는 걸까요?

박혜진 기자가 실험을 통해 알아봤습니다.

[리포트]

어떤 이유로 인공지능 의존도가 높아지는 지, 고등학생들을 대상으로 실험해봤습니다.

학생들이 자주 쓰는 인공지능을 이용해 5분 동안 고민을 상담한 뒤, 인식 변화를 조사했습니다.

["갈등 상황을 한 번 생각해 볼 거예요."]

"답장을 안해 친구가 서운해 한다"는 고민에 인공지능은 '억울하겠다'며 사용자 편을 들어줍니다.

친구를 빼고 여행을 가기로 해 그 친구가 화났다는 고민에는 "충분히 가능한 선택"이라고 두둔합니다.

사용자의 말에 동의해주는 이른바 아첨현상입니다.

인공지능이 편을 들어주자 학생들의 생각에도 변화가 생겼습니다.

"AI의 조언이 객관적"이라는 답변이 실험 전 7점 만점에 4.8점에서, 실험 후에는 6.1점으로 올랐고, 행동을 수정하겠다는 답변도 늘었습니다.

"비슷한 고민이 생기면 AI를 다시 찾겠다"는 의존도도 올랐습니다.

[정도원/실험 참여 학생 : "(전에는) 사과를 해야겠다고 생각을 했는데 AI와 대화를 한 후 이제 굳이 제 잘못만은 아닌 것 같아서 생각이 달라지는..."]

인공지능 모델 10개를 대상으로 한 다른 실험에서는 인공지능이 사람보다 아첨하는 비율이 30~50% 높았고, 이런 아첨형 AI에 이용자들이 더 의존하는 것으로 조사됐습니다.

[조수현/계명대학교 교육학과 교수 : "(아첨형 AI에 의존하면) 현실 세계에서 적응하는 게 훨씬 더 어려워지고 그렇게 되면 성장에 꼭 필요한 좌절이나 갈등들에 더 취약해질 수밖에 없는거죠."]

듣고 싶은 말을 해주며 신뢰를 얻고 의존으로 몰아가는 인공지능을 어디까지 허용할 지, 점검이 필요합니다.

KBS 뉴스 박혜진입니다.

촬영기자:윤재영/영상편집:양다운/실험자문:조수현 교수/그래픽:김성일

■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 유튜브, 네이버에서도 KBS뉴스를 구독해주세요!

박혜진 기자 (root@kbs.co.kr)