대형 선거 쏟아지는 2024 지구촌…'AI 악용' 비상

미 대선후보 예비경선 등에서 악용 사례 나와
국가들과 AI 기업들 발빠르게 규제 방안 합의

인공지능(AI)의 발전 속도가 예상보다 빨라지면서 '선거의 해'를 맞은 지구촌에 비상이 걸렸다.

23일(현지시간) 영국 일간 가디언 등은 조 바이든 미국 대통령이 오는 11월 대선을 앞두고 지난해 말 '안전하고 신뢰할 수 있는 AI에 대한 행정명령'에 서명했다고 전했다. AI 역량에 대한 안전 및 보안 우려를 해소하기 위해 AI 시스템 개발자가 안전 테스트 결과 등 중요 정부를 정부와 공유하도록 하는 것이다.

유럽연합(EU)도 지난해 말 AI 위험성을 분류하고 투명성을 강화하며 관련 규정을 준수하지 않는 기업에 벌금을 부과하는 규제 법안에 합의했다. 이는 전 세계 첫 AI 규제법안이었다. 지난주에는 오픈AI·구글·메타·마이크로소프트(MS) 등 20개 거대 정보통신 기업이 유권자를 속이는 AI 콘텐츠를 방지하는 데 노력하기로 했다. 이들 기업은 독일 뮌헨 안보 회의(MSC)에서 이 같은 내용의 합의문을 발표하고 자발적으로 유권자가 속을 위험이 있는 콘텐츠를 감지해 꼬리표를 붙이는 등 조처를 하기로 했다.

올해 약 40개국에서 대선이나 총선, 의회 선거 등이 진행된다. AI 부실 규제로 악영향을 끼칠 우려 때문에 국가와 기업들이 발 빠르게 움직이는 것이다. 전문가들은 AI가 생성하는 허위정보가 유권자들의 결정에 영향을 미친다는 점에서 민주주의를 위협하는 중대 위험으로 여긴다. 외신은 AI가 생성하는 조작 생성물을 검열하는 기술업체의 인력이 대량 해고되면서 특히 디지털 매체들이 AI 악용에 취약해졌다고 꼬집었다.

실제로 AI가 만들어내는 가짜 콘텐츠인 딥페이크(Deep fake·AI로 만든 영상, 이미지, 음성 조작물)가 선거판에 유입된 적도 있었다. 지난달 미국 뉴햄프셔주 프라이머리(대선후보 예비경선)를 하루 앞두고 민주당 당원들은 투표 거부를 독려하는 바이든 대통령의 가짜 목소리를 담은 전화를 받았다. 미 연방통신위원회(FCC)는 AI로 만든 선거 운동용 자동 녹음 전화를 금지하는 등 대책을 마련했으나, 선거운동에 딥페이크가 활용되는 점에 대한 우려는 들끓고 있다. 이외에도 슬로바키아·대만·인도네시아에서도 AI를 악용한 선거운동 사례가 잇따라 나타났다.

구나리 인턴기자 forsythia26@asiae.co.kr