선관위 “챗GPT로 예측한 선거결과 공표 가능”

생성형AI 활용 법규운용기준 마련

중앙선거관리위원회는 제22대 국회의원선거에서 챗GPT 등 생성형 AI를 활용한 허위 콘텐츠를 방지하기 위한 AI 관련 법규운용기준을 마련했다고 31일 밝혔다.

선관위는 생성형 AI가 공약·연설문·로고송·홍보동영상 제작 등 선거운동이나 공약 비교·평가, 선거결과 예측 등에 활용될 수 있다고 보고, 최근 ‘허위사실공표·비방 특별대응팀(AI 전담팀)을 최대 500명 단위로 운영하기로 했다.

선관위는 AI 전담팀을 통해 AI로 생성한 이미지나 동영상을 감별하고 선거 관련 여론조작 여부를 판별하는 등 신속하게 대응한다는 방침이다.

선관위가 마련한 생성형 AI 법규운용기준에 따르면 생성형 AI를 통해 도출된 글이나 사진·동영상·음성 등을 활용하는 것 자체만으로는 공직선거법에 위반되지 않는다. 다만 허위의 내용이 포함된 경우에는 허위사실공표죄로 처벌받을 수 있다.

생성형 AI를 이용해 특정 정당·후보자에 대한 지지도나 선거 결과 등을 예측한 내용은 생성형 AI로 분석한 결과로서 신뢰도 등에 한계가 있을 수 있음을 밝힌다면 공표할 수 있다. 다만 이를 선거에 관한 여론조사 결과로 오인하게 하는 방법으로 공표할 경우 법에 위반될 수 있다.

생성형 AI를 이용해 후보자나 후보자 가족과 관련된 특정 이슈를 주제로 하는 풍자 소설, 이미지 등을 창작해 공표하는 것은 선거인의 관점에서 해당 내용이 허구임을 인식하기 어려운 정도에 이르는 경우 허위사실공표죄에 해당할 수 있다.

선관위는 지난 30일 AI가 선거에 미칠 영향을 주제로 세미나를 개최하고 전세계적으로 생성형 AI를 활용한 허위 콘텐츠가 선거에 악용될 우려가 있다는 경고가 계속 나오는 만큼 신속하고 엄정한 대처가 필요하다는 인식을 공유했다.

다만 짧은 선거기간에 AI 기술로 만든 정교한 허위정보가 유포될 경우 진위 여부 확인 등 위법성을 판단하고 확산된 허위정보를 삭제 조치하기에는 현실적인 어려움이 예상된다. 이에 선관위는 유권자들이 허위정보로 의심되는 콘텐츠를 접할 경우 반드시 출처를 확인하고, 이를 2·3차로 퍼나르는 경우 법에 위반되므로 주의가 필요하다고 당부했다.