구글 챗봇, 선거 관련 답변 제한···AI 허위 정보 ‘단속’ 나선 빅테크

구글이 개발한 인공지능(AI) 챗봇 제미나이. 사용자가 “도널드 트럼프 전 대통령은 누구인가” “조 바이든 대통령은 누구인가” 묻자 제미나이가 “이 질문에 어떻게 대답해야 할지 아직 학습하고 있다. 그동안 구글 검색을 해보라”고 답하고 있다. 제미나이 갈무리

생성형 인공지능(AI) 서비스를 제공하는 거대 정보기술(IT) 기업들이 올해 미국 대선 등 세계 70여 개국의 주요 선거를 앞두고 선거와 관련된 AI 콘텐츠를 단속하고 있다.

이들 기업은 AI가 선거 관련 콘텐츠를 만들지 못하게 하거나, 이미 유통된 허위·조작 정보를 감지해 삭제하는 작업에 나섰다. 무료로 이용할 수 있는 AI 챗봇과 이미지 생성 서비스가 점점 늘어나고 있는 상황에서 허위·조작 정보가 무분별하게 유통되는 것을 막기 위해서다. 전문가들은 기업들이 대책을 당장 마련해도 AI 기능의 허점을 이용해 악의적인 AI 콘텐츠가 만들어질 가능성이 있다고 지적했다.

로이터통신에 따르면 구글은 12일(현지시각) “자사 챗봇인 제미나이가 올해 있을 전 세계 선거에 관련된 질문에 답할 수 있는 범위를 제한하기로 했다”고 밝혔다. 구글 관계자는 “올해 전 세계에서 치러지는 많은 선거에 대비하고 많은 주의를 기울이기 위해 이 같은 조치를 취했다”고 설명했다.

구글은 제미나이에 ‘조 바이든 미국 대통령이 누구인가’ ‘도널드 트럼프 전 미국 대통령이 누구인가’라고 질문을 던지면 공통으로 ‘이 질문에 대한 대답을 아직 학습하는 중’이라고 답하도록 프로그램을 설정해 놓았다. 이재명 더불어민주당 대표와 한동훈 국민의힘 비상대책위원장 등 한국의 유명 정치인을 설명하라고 입력해도 같은 답이 나온다.

구글의 이날 발표는 AI 기술을 이용한 허위·조작 뉴스 확산에 대한 우려가 커지는 가운데 나왔다. 최근 온라인상에는 수갑을 찬 트럼프 전 대통령, 기관총을 쏘는 바이든 대통령, 백악관에서 프란치스코 교황을 만나는 트럼프 전 대통령 등을 묘사한 AI 허위 이미지가 온라인상에 퍼졌다.

지난달 16일에는 마이크로소프트, 구글, 오픈 AI, 틱톡 등 전 세계 주요 20개 IT 기업이 독일 뮌헨안보회의에서 유권자들을 혼란스럽게 할 수 있는 딥페이크(AI를 기반으로 하는 인간 이미지 합성 기술) 콘텐츠를 만들거나 유통하는 것을 방지하는 데 힘쓰기로 한 합의문을 발표했다. 이들 기업은 유권자에게 영향을 줄 수 있는 딥페이크 콘텐츠를 감지하는 기술을 개발하고, 문제의 콘텐츠에는 딥페이크임을 알리는 라벨을 붙이기로 했다.

이들은 “AI 발전이 새로운 기회도 만들어내지만, 민주주의 절차에 문제도 되고 있다”면서 “누군가를 속이기 위해 만들어진 콘텐츠가 확산되는 것은 선거 절차의 온전성을 위협할 수 있다”고 밝혔다.

대선과 총선을 앞두고 딥페이크 콘텐츠가 확산하자 각국 정부도 하나둘 대책을 마련하고 있다. 인도 정부는 13일 각 IT 기업에 신뢰할 수 없거나 시험 중인 AI 서비스를 출시하려면 정부 승인을 받을 것을 요청했다. 인도네시아와 방글라데시 등은 허위 정보가 담긴 콘텐츠에 아무런 조치를 하지 않는 플랫폼에 법적 책임을 묻는 법안을 통과시켰다.

스태빌리티의 드림스튜디오가 생성한 조 바이든 미국 대통령(왼쪽)과 도널드 트럼프 전 미국 대통령의 딥페이크 이미지. ‘디지털 혐오 대응 센터’(CCDH) 보고서 갈무리

하지만 기업들이 선거와 관련한 허위 정보 콘텐츠의 확산을 온전히 막지는 못 하고 있는 상황이다. 영국의 비영리단체 ‘디지털 혐오 대응 센터’(CCDH)가 지난 6일 공개한 보고서에 따르면 오픈AI의 챗GPT 플러스와 스태빌리티의 드림스튜디오, 마이크로소프트의 이미지 크리에이터, 미드저니 등 네 사이트에 선거 관련 허위 정보를 담은 문장 160가지를 입력한 결과 41% 확률로 이미지가 그대로 그려졌다.

예를 들어 드림스튜디오는 병원 침대에 누워있는 바이든 대통령과 경찰에 끌려가는 트럼프 전 대통령이 묘사된 ‘딥페이크 이미지’를 만들었다. 챗GPT 플러스는 쓰레기통에 버려진 투표용지 그림을 생성했다.

캘럼 후드 CCDH 연구책임자는 “투표소와 관련된 허위 이미지를 생성하라고 입력했을 때 네 플랫폼 모두에서 이미지가 그대로 나왔다”며 “(허위 정보가 담긴) 이미지 일부를 만들었다는 것은 키워드 필터링 등 기능에서 보완할 점이 있다는 것을 보여준다”고 BBC에 말했다.

윤기은 기자 energyeun@kyunghyang.com