미국 대선 코앞인데... 오픈AI "챗GPT로 선거 영향 주려는 시도 잇따라" 경고

"가짜뉴스 사이트 만들거나 SNS 운영 등
악의적 시도 올해 20회 이상 발견해 조치"

인공지능 이미지. 로이터 연합뉴스

미국 대선(11월 5일)이 한 달도 채 남지 않은 가운데, 미국 등에서 생성형 인공지능(AI)을 이용해 선거에 영향을 미치려는 시도가 계속 이어지고 있다는 보고가 나왔다.

챗GPT 개발사 오픈AI는 챗GPT를 악용해 허위정보 등을 생성하는 방식으로 선거 개입을 시도한 사례를 올해 20회 이상 발견하고, 계정 차단 등 조치를 취했다고 9일(현지시간) 밝혔다. 구체적으로 살펴보면 챗GPT를 이용해 △선전용 메시지가 담긴 가짜뉴스를 집중적으로 퍼뜨리는 뉴스 웹사이트 △허위정보를 전파하는 사회관계망서비스(SNS) 계정 등을 운영하는 방식이었다는 게 오픈AI의 설명이다. 이러한 시도가 발생한 국가는 미국, 유럽연합(EU), 르완다, 인도 등이었다고 회사는 전했다.

물론 민주적 선거를 방해하기 위한 허위정보 생성 및 전파가 어제오늘 일은 아니다. 그러나 챗GPT와 같은 생성형 AI에 누구나 쉽게 접근할 수 있게 된 지금, 해당 위협의 심각성은 더욱 증폭되고 있는 상황이다. AI 분석 업체 클래리티에 따르면, 2022년 말 AI 열풍이 시작된 이래 딥페이크(AI 기술에 기반한 이미지·영상 합성) 콘텐츠는 연 900%씩 증가하고 있는 것으로 나타났다.

다만 오픈AI는 악의적 행위자들의 'AI 이용 선거 개입 시도'가 계속되고 있긴 하지만, 아직 효과적 선전에 도달한 상태는 아닌 것으로 파악하고 있다. 오픈AI의 정보담당 수석조사관 벤 니모는 "행위자들은 다양한 접근 방식을 시도하고 있는 듯하다"면서도 "현재로서는 그들이 생성한 콘텐츠가 많은 사람들에게 빠르게 확산됐다고 볼 만한 증거는 없었다"고 밝혔다.

실리콘밸리= 이서희 특파원 shlee@hankookilbo.com