커지는 AI의 ‘공정 선거’ 위협… 선관위, 규제 연구 돌입

생성형 인공지능(AI) 사용이 보편화하면서 공정선거 가치를 위협할 수 있다는 우려가 커지고 있다. 각국에서 규제 도입 움직임이 일고 있다. 한국도 중앙선거관리위원회에서 생성형 AI가 선거에 인위적 영향을 미치지 않도록 막는 규제 도입에 착수했다. 내년 제22대 국회의원선거(총선)뿐만 아니라 향후 있을 공직선거에서 AI의 부정적 영향을 최소화하겠다는 취지다.

중앙선관위는 ‘생성형 AI 신기술 도입에 따른 선거규제’ 연구용역을 발주했다고 11일 밝혔다. 선관위는 “챗GPT 등의 생성형 AI와 같은 신기술 도입으로 변화하는 선거 환경에서 각국의 선거규제 입법 동향을 조사·분석하겠다”고 설명했다.

생성형 AI를 활용하면 실제 사람이나 사건처럼 보이도록 콘텐츠를 제작할 수 있다. 이를 정치 광고나 선전용 콘텐츠에 쓰면, 유권자 심리에 상당한 영향을 미쳐 공정하지 않은 선거를 치를 가능성도 있다. 이른바 ‘가짜 정보’에 따라 유권자 인식이 달라지거나 선거판이 혼탁해질 수 있다. 선관위는 “생성형 AI는 인터넷의 광범위한 데이터를 바탕으로 자체 생성물을 창작함에 따라 진위 판별, 저작권 등에서 법적 책임이 불분명하다. 허위사실을 포함한 콘텐츠를 누구나 쉽게 만들어낼 수 있는 문제도 있다”고 진단했다. 현행 공직선거법의 허위사실공표죄로는 생성형 AI가 만든 가짜 정보를 처벌하기 모호하다.

선관위는 생성형 AI 관련 규제 현황, 논의 과정 등을 살펴보고 국내 규제 도입 방향성을 결정할 방침이다. 오는 12월까지 연구를 마칠 예정이다. 연구 결과는 내년 총선 및 공직선거 환경 개선에 적용할 예정이다. 선관위는 “공정한 선거관리와 선거환경 조성을 위해 실질적 대응 전략을 제시할 필요가 있다”고 말했다.

생성형 AI가 선거에 악용되는 걸 막기 위한 규제를 도입하는 건 세계적 흐름이다. 내년에 여러 국가에서 선거를 치르기 때문에 혼란을 방지하려는 움직임이 활발하다. 내년에 한국뿐만 아니라 미국 영국 인도 인도네시아 등에서 약 40억명이 투표를 할 예정이다. 영국 이코노미스트는 “대형 언어모델(LLM)을 통해 가짜뉴스가 1000배, 10만배로 늘면 유권자들이 엉뚱한 사람에게 투표하도록 설득될 수 있다”고 경고했다. 각국 정부와 별개로 구글은 실제 사람이나 사건처럼 보이도록 합성한 콘텐츠를 정치 광고에 사용하는 경우 이를 명확하게 표시하도록 하는 정책을 다음 달 중에 시행할 예정이다.

전성필 기자 feel@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지