[여론 속의 여론] 대화형 AI 신뢰도 39%… "정치편향 가능성" 안내하자 25%로↓

'편향 될 수 있다'는 한 마디에
신뢰도, 사용의향도 흔들렸다
대화형 AI "사용경험 있다" 58%
정치·사회이슈 질문 경험은 20%
일상정보·학업·업무보다 사용 적어

ChatGPT, 클로드, 제미나이 앱 아이콘. 연합뉴스

미국에서는 대화형 AI가 정치적으로 편향된 답변을 내놓는다는 논쟁이 활발하다. 같은 사안이라도 AI 모델마다 특정 정당을 두둔하는 정도가 다르거나, 심지어 사용자가 질문하는 정치 성향에 따라 답변이 달라진다는 분석까지 나와 있다. 한국도 사정이 다르지 않다. 국가 AI 모델 구축이 정책 과제로 떠오른 지금, AI가 정치적으로 편향되어 있고 시민들이 정치·사회 문제를 AI에 묻고 판단을 맡긴다면, 민주적 여론 형성의 토대 자체가 흔들릴 수 있다.

이런 문제의식에서 경북대학교 사회과학기초자료연구소(소장 엄기홍)와 한국리서치 '여론 속의 여론' 팀은 2월 27일 ~ 3월 3일 전국 만 18세 이상 남녀 1,000명을 대상으로 대화형 AI의 정치적 편향 인식에 대한 실험조사를 실시했다. 응답자를 무작위로 두 집단으로 나눠 한 집단(이하 실험집단)에는 ‘AI의 정치적 편향 가능성’에 대한 안내를, 다른 집단(이하 통제집단)에는 ‘AI의 정치적 중립성’에 대한 안내를 제시하고, 제시 전과 후 AI에 대한 신뢰도와 사용 의향을 측정하였다. 결과는 분명했다. AI의 편향 가능성을 인식한 후 신뢰도와 사용 의향은 통계적으로 유의미하게 하락했고, 그 하락은 편향을 전제한 실험집단에서 더 크게 나타났다.

대화형 AI 얼마나 사용하고 있나?
10명 중 6명 대화형 AI 사용경험, ChatGPT(50%)·Gemini(32%) 양강
사용자 중 34%만 정치·사회 이슈 주제로 AI 활용

대화형 AI는 이미 일상 도구로 자리 잡았다. 이번 조사에서 챗GPT, 제미나이(Gemini), 코파일럿(Copilot), 클로바X 등 대형언어모델 기반 대화형 AI 서비스에 대해 ‘들어본 적 있다’는 응답은 79%, 실제 ‘사용해 본 경험이 있다’는 응답은 58%이다. 국민 10명 중 6명은 이미 대화형 AI를 한 번 이상 써본 셈이다.

다만 ‘정치·사회 이슈와 관련된 주제로 AI에 질문해 본 경험’은 AI 사용자 중 34%이다. 응답자 전체 기준으로는 20%, 즉 5명 중 1명만이 정치·사회 주제로 AI에 물어본 적 있다는 것이다. AI 활용에서 일상적 정보나 학업·업무 지원에 비해 정치 영역은 여전히 생소한 영역임을 보여준다.

AI 인지·사용·정치 영역 활용 그래픽=강준구 기자

먼저 응답자들이 AI에 대한 편향 안내를 받기 전, AI를 어느 정도 신뢰하고 있었는지 확인했다. AI가 제공하는 정보를 ‘신뢰한다(매우+대체로)’는 응답이 37%, ‘보통이다’가 51%, ‘신뢰하지 않는다(전혀+별로)’가 12%이다. 강하게 의심하지도, 적극적으로 믿지도 않는 ‘조심스러운 수용’이 출발점이다.

AI 제공 정보 신뢰도 그래픽=강준구 기자

이 출발점에서 응답자를 무작위로 두 집단으로 나눠 실험집단(498명)에는 ‘AI가 정치적으로 편향되어 있을 수 있다’는 안내문과 AI 대화 예시를, 통제집단(502명)에는 ‘AI가 비교적 정치적으로 중립적이다’는 안내문과 대화 예시를 제시했다. 그 직후 측정한 AI에 대한 편향 인식은 확연히 갈린다. ‘AI 답변이 정치적으로 편향되어 있다’에 동의하는 비율은 실험집단 38%, 통제집단 20%로 18%포인트 벌어진다. ‘AI는 특정 이념이나 정치적 입장에 기울어진 방식으로 설명한다’(38% vs 18%), ‘AI는 서로 다른 관점을 균형 있게 다루지 않는다’(39% vs 19%), ‘AI는 사실 전달보다 평가·판단을 섞어 답한다’(41% vs 27%) 등 모든 문항에서 실험집단의 편향 인식이 10~20%포인트 높다. 짧은 안내문과 대화 예시 노출만으로 AI 편향에 대한 인식을 두 배 가까이 끌어올린 것이다.

AI 답변의 정치적 편향 인식 그래픽=강준구 기자

AI에 대한 신뢰는 흔들렸다
전반적 신뢰도 37%→AI 답변신뢰도 26%, 동일응답자 기준 뚜렷한 하락
신뢰도 하락폭, 실험집단 -14%포인트 vs 통제집단 -8%포인트

핵심 질문은 AI 편향에 대한 안내를 받은 뒤 신뢰가 실제로 흔들렸는가이다. 동일 응답자 1,000명의 안내 전후를 비교하면 답은 분명하다. 안내 전 AI에 대한 전반적 신뢰도는 37%였으나, 안내 후 ‘AI 답변은 신뢰할 수 있다’에 동의한 비율은 26%로 떨어졌다. 안내문 하나가 편향에 대한 인식뿐 아니라 신뢰까지 끌어내린 것이다.

더 주목할 점은 신뢰도 하락의 크기가 집단에 따라 달랐다는 것이다. AI에 대한 신뢰도는 편향을 안내한 실험집단에서 14%포인트 떨어진 반면, 중립을 안내한 통제집단에서는 8%포인트 떨어지는 데 그쳤다. 안내 전 AI에 대한 신뢰도는 오히려 실험집단(39%)이 통제집단(35%)보다 소폭 높았으나, 안내를 받은 뒤 역전되었다. 편향 가능성에 대한 안내가 신뢰도 하락을 분명히 부추긴 것이다.

AI 신뢰도 변화 그래픽=강준구 기자

다만 신뢰도 하락은 AI를 쓰는 모든 상황에서 똑같이 나타나지는 않는다. 안내 후 측정한 상황별 AI 신뢰도를 보면, ‘기본적 일상정보 검색’(58%)과 ‘학습·업무 관련 기본 검색’(57%)에서는 오히려 안내 전 전반적 신뢰도(37%)보다 높은 수준이다. 반면, ‘정책 비교 평가’(25%)와 ‘정치적 쟁점 설명’(20%)은 가장 낮은 수준이다. 무엇을 위해 AI를 사용하는지에 따라 신뢰도는 크게 갈린 것이다. 특히 정치 영역의 신뢰도는 안내와 무관하게 이미 바닥에 가까웠다.

상황별 AI 답변 신뢰도 그래픽=강준구 기자

AI 편향 가능성에 대한 안내 후 흔들린 것은 신뢰뿐만 아니라 사용 의향도 마찬가지다. AI 사용 경험이 없는 응답자 424명을 기준으로 안내 전후 향후 AI 사용 의향을 비교했다. 그 결과 안내 전 향후 사용 의향은 75%였으나, 안내 후 ‘AI가 편향되어 있을 수 있어도 사용하겠냐’는 질문에 63%만이 ‘그렇다’고 답해 12%포인트 낮아졌다. 편향 가능성을 전제했을 때, 아직 AI를 써 보지 않은 응답자들의 사용 의향이 분명히 위축된 것이다.

이 위축은 AI를 써 본 적 없는 응답자군에서 더 두드러진다. 편향을 전제한 계속 사용 의향은 AI 사용 경험자에서 76%로 미경험자(63%) 대비 13%포인트 높다. AI에 익숙하지 않은 사람일수록 편향 경고에 더 민감하게 반응한 셈이다.

AI 미사용자의 사용 의향 변화 그래픽=강준구 기자

그럼에도 다수는 떠나지 않았다, 검증하며 쓰는 사용자
신뢰는 낮아졌어도 70%는 계속사용 의향, 스스로 AI 답변 검증하며 사용

신뢰와 의향이 낮아졌다고 해서 AI를 떠나는 것은 아니다. 편향 가능성을 전제했을 때도 전체 응답자의 70%는 여전히 ‘계속 사용할 의향이 있다’고 답했다. 신뢰는 낮아졌어도 이용 자체를 포기하지는 않은 것이다. 그 이유 중 한 가지는 사용자들이 AI의 편향을 스스로 검증한다는 것이다. 대화형 AI 사용자의 75%가 ‘AI 답변을 다른 정보나 출처를 통해 비교해 본다’고 답했고, 74%가 ‘추가 상호작용을 통해 내용을 보완·개선한다’, 69%가 ‘출처나 근거를 재질문한다’고 답했다. 특히 정치·사회 이슈에 AI를 사용해 본 경험자(200명)는 출처 비교 81%, 추가 상호작용을 통한 보완 82%, 출처나 근거 재질문 77%로 검증에 대한 적극성이 더 뚜렷하게 나타났다. 대화형 AI의 정치 영역 활용이 ‘무비판적 수용’이 아니라 ‘검증’을 전제로 활용되고 있다는 점은 희망적이다.

AI 사용자의 편향 극복 시도 그래픽=강준구 기자

사용 빈도별로도 같은 맥락이 확인된다. AI를 ‘거의 매일 사용’하는 집단은 ‘AI는 사실 전달보다 평가·판단을 섞어 답한다’에 33%가 동의해 편향을 뚜렷이 인식하면서도, 사용 빈도가 낮은 집단보다 AI 신뢰도(‘중요한 판단에 참고할 의향이 있다’ 46%, 전반적 신뢰도 56%)는 높은 특성을 보인다. AI를 많이 쓰는 사람일수록 AI의 한계와 동시에 효용도 인정하는 것이다.

‘국가 AI 모델’ 논의에 남기는 질문
편향경고는 신뢰를 낮출 뿐, 이용을 막지는 못한다, 핵심은 ‘검증가능성’

이번 조사의 결론은 세 가지다. 첫째, ‘편향될 수 있다’는 짧은 안내만으로 대중의 AI 편향 ‘인식’은 두 배 가까이 벌어졌다. 둘째, 편향 안내 후 AI에 대한 신뢰와 사용 의향은 동일인 기준으로 분명히 낮아졌으며, 편향을 안내한 집단일수록 그 하락이 컸다. 셋째, 그럼에도 다수는 AI를 떠나지 않고, 다른 출처와 비교하고 근거를 재질문하며 검증하는 방식으로 계속 사용한다.

이는 ‘국가 AI 모델 논의’에 중요한 시사점을 준다. ‘AI가 편향될 수 있다’는 경고는 대중의 신뢰를 낮추는 효과는 있지만, 그렇다고 이용을 멈추게 하지는 못한다. 반대로 ‘AI는 중립적’이라는 보증만으로 신뢰가 회복되지도 않는다. 신뢰가 낮아져도 대중은 AI를 계속 사용할 것이다.

공공 AI 모델 설계의 초점은 AI의 편향 유무를 보증하는 데 있지 않다. 핵심은 사용자가 스스로 AI의 답변을 검증할 수 있게 하는 일이다. 답변의 근거 및 출처 표시, 반대 관점의 병기, 사용자가 쉽게 재질의할 수 있는 인터페이스를 설계 규범으로 세우고, 이를 외부에서 검증할 수 있는 체계를 갖춰야 한다. 이미 스스로 검증하며 AI를 사용하고 있는 사용자에게, 제대로 된 검증 도구를 쥐여주는 것이 남은 과제다.

김정민 한국리서치 책임연구원 엄기홍 경북대학교 사회과학기초자료연구소장