"챗GPT 답변, 민주당에 유리"…위장 사이트 37곳 발견 '발칵'

미국 중간선거 관련 위장 사이트 발견
민주당 후보들에게 유리한 정보 제공
챗GPT 답변서도 해당 사이트 인용

사진=REUTERS·연합뉴스

미국 중간선거를 앞두고 민주당 후보들에게 주로 유리한 정보를 게시하는 웹사이트 37곳이 발견됐다. 이들 사이트는 지역 언론사나 정치 전문 매체 등을 표방한 것으로 조사됐다. 이들 사이트가 게시한 정보가 인공지능(AI) 챗봇 챗GPT 답변에 실제로 인용되면서 AI를 통한 선거 여론 왜곡 가능성이 제기되고 있다.

1일(현지시간) 미국 뉴욕포스트에 따르면 디지털 보안업체 비전하이트는 최근 독립적인 언론 매체처럼 꾸며진 웹사이트 37곳을 확인했다. 해당 사이트들은 지역 뉴스와 정치 정보를 제공하는 것처럼 보이지만 실제로는 주로 민주당 후보들에게 유리한 내용을 게시한 것으로 조사됐다.

미국 공영방송 NPR은 챗GPT가 이들 사이트를 답변의 출처로 얼마나 자주 인용하는지도 조사했다. 미국 내 접전 지역의 연방 하원 후보 10명을 대상으로 정책과 주요 현안에 관해 질문한 결과 약 절반에 이르는 답변에서 해당 사이트들이 정보 출처로 인용됐다.

대표적인 사례는 미시간주 제4선거구에서 확인됐다. NPR이 챗GPT에 생활비 부담 문제에 관심을 갖는 후보가 누구인지 질문하자 민주당의 숀 매캔 후보에게 유리한 답변이 나왔다.

당시 챗GPT가 인용한 출처는 지역 언론사처럼 꾸며진 사이트. 이 사이트가 게시한 기사 16건은 모두 매캔 후보의 정책과 활동을 다룬 내용이었다.

매캔 후보 측은 관련성을 부인했다. 후보 캠프 대변인은 뉴욕포스트에 해당 웹사이트들의 존재를 알지 못할 뿐 아니라 운영에도 관여하지 않았다고 밝혔다.

펜실베이니아주에서도 유사한 사례가 발견됐다. '스크랜턴 비컨'은 민주당의 페이지 코그네티 후보를 소개하는 기사를 게재했고 '일렉트릭 시티 워치'는 같은 후보에 대한 지지를 촉구했다.

비전하이트가 확인한 37개 사이트는 지역 뉴스 매체를 표방한 곳 10개, 지역 의견·논평 블로그 10개, 주 단위 정치 사이트 12개, 전국 단위 정치 매체 5개로 구성됐다.

이들 사이트가 조직적으로 운영됐을 가능성을 보여주는 정황도 발견됐다. 전체 37개 도메인이 지난 9월15일 등록됐고 이 가운데 36개는 불과 8분 사이에 등록된 것으로 확인됐다.

콘텐츠 생산 방식도 유사했다. 지난 9~10월 수백건의 기사가 집중적으로 게시됐다. 지난 9월30일 하루에만 하나의 템플릿을 네 가지 형태로 활용한 후보 관련 콘텐츠 약 10만단어가 올라오기도 했다.

일부 후보를 소개하는 글은 약 5000단어에 달했고 유권자 안내 자료에는 50~63개의 문답이 담겼다. 전체 사이트에서 '더 나은 선택이다(is the stronger choice)'라는 표현이 360차례 넘게 사용된 사실도 확인됐다.

비전하이트는 이 같은 대량 생산 방식과 획일적인 문장 구조를 근거로 AI가 콘텐츠 작성에 활용됐을 가능성을 제기했다. 다만 실제 AI 생성 여부는 확인되지 않았다.

주목할 부분은 이들 사이트가 AI 시스템의 정보 수집을 허용하도록 설정됐다는 점이다. 37개 사이트 모두 오픈AI, 구글, 앤트로픽 등이 운영하는 AI·검색용 크롤러 17종의 접근을 허용했다.

반면 구글의 AI 챗봇 제미나이는 NPR의 시험에서 해당 사이트들을 출처로 인용하지 않았다. 일반 구글 검색에서도 조사 당시 관련 사이트들이 검색 결과 첫 페이지에 나타나지 않았다. 구글은 앞서 정책 위반 사례를 발견해 신속하게 조치했다고 설명했다.

이들 사이트의 실제 운영 주체와 자금 제공자는 확인되지 않았다. 민주당의 연방 하원 선거 지원 조직인 민주당 의회선거위원회(DCCC)는 관련성을 부인했다.

오픈AI 대변인은 뉴욕포스트에 챗GPT의 검색 기능이 다양한 출처를 인용해 이용자가 직접 정보를 검토하고 판단할 수 있도록 지원한다고 설명했다.

이어 비영리단체 데모크라시웍스(Democracy Works)와 협력해 유권자 등록, 투표 기한, 투표소 위치 등 선거 정보를 제공하고 있다고 강조했다. 문제가 발견될 경우 모델의 답변을 개선하기 위한 조치를 취하고 있다는 설명이다.

김대영 한경닷컴 기자 kdy@hankyung.com