세계 선거 흔드는 AI 조작…한국 대선은 괜찮나
[EBS뉴스]
대선이 이제 한 달도 채 남지 않았습니다.
다음 주 공식 선거운동이 시작되면 정책 경쟁뿐 아니라, 각종 흑색선전도 본격화할 것으로 보입니다.
특히 최근엔 AI 기술을 활용한 거짓 정보가 세계 곳곳의 선거를 뒤흔들며 우려가 커지고 있는데요.
먼저 관련 영상 함께 보시죠.
[VCR]
급속한 AI 기술 발전에
선거 악용 사례 속출
"선거 90일 전부터 AI 활용 선거운동 금지"
우리도 AI 조작 정보 규제책 마련
다음주부터 본격 선거운동 시작
AI 허위‧조작정보 확산 우려는 여전
선거판 흔드는 AI 기술…한달 뒤 대선 영향은?
-----
서현아 앵커
네, 인공지능 기술이 우리 대선에 미칠 영향과 우리에게 필요한 대응은 무엇인지 송경재 상지대 교수와 자세히 짚어봅니다.
교수님 어서 오세요.
네, 아무래도 이 선거가 사람을 선택하는 과정이기 때문에 일단 이 얼굴을 모방하는 딥페이크 기술이 주목을 받고 있습니다.
최근에 해외 선거에서 이 기술이 악용된 사례들이 있다고요.
송경재 교수 / 상지대학교 사회적경제학과
딥페이크(Deepfake)는 인공지능 기술 딥러닝(deep learning)과 가짜를 의미하는 페이크(fake)의 합성어입니다.
2017년 미국에서 유명인 딥페이크가 화제가 되면서 급속히 확산되었는데요.
특히 최근에 딥페이크는 오픈소스로 누구나 제작이 가능한 프로그램이 개발되면서 성행하고 있습니다.
정치적으로 딥페이크 기술은 선거 시기에 위험한 도구로 평가되는데요.
후보자나 정치인의 허위 합성물을 유포하여 선거 결과를 왜곡할 수 있습니다.
예를 들면 한 나라의 대통령이나 정치지도자 딥페이크로 외국과 분쟁이 일어날 수도 있고, 주식시장 혼란 등 경제에도 악영향이 있을 수 있습니다.
실제 2024년 1월에는 미국 바이든 대통령이 당원들에게 투표 불참을 독려하는 음성 파일이 유포되기도 했습니다.
그리고 인도 유명배우의 특정 정당 지지, 영국 노동당 대표 폭언 등이 딥페이크로 조작된 것이 알려지면서 선거에 영향을 미치는 사례가 발생하고 있습니다.
서현아 앵커
네, 지금 대선 후보들은 앞다퉈서 인공지능 산업을 육성하겠다 이렇게 발표를 하고 있는데 선거 국면에서는 오히려 인공지능이 좋아 조금은 악용되는 모습도 보이고 있는 현실입니다.
그렇다면 이 AI를 기반으로 한 허위 조작 정보 유권자 판단에는 어떤 영향을 미칠 수 있을까요?
송경재 교수 / 상지대학교 사회적경제학과
우선 직접적으로는 허위조작정보로 인한 잘못된 정보 확산입니다.
사실과 허위를 구별하지 못하여 좋은 후보자를 선택할 기회를 빼앗기는 것이지요.
문제는 간접적인 영향입니다.
우선, AI 기반 허위조작 정보의 확산은 우리 사회에서 정보 신뢰도를 떨어뜨릴 수도 있습니다.
선거시기 딥페이크나 허위조작정보 현상이 누적되면 정치에 피로감을 느껴 투표에 참여하지 않을 수도 있습니다.
다음으로 심리적 측면에서 심각한 것은 딥페이크를 진실로 믿는 경우입니다.
잘못된 정보를 믿으면 혼란은 가중되고 우리가 알고 있는 인식의 왜곡 또는 믿고 싶은 것만 믿게 되는 확증편향 등의 사회적 문제가 나타나게 될 것입니다.
심지어 AI 기반 허위조작정보를 잘 못 믿고 직접 행동할 경우, 집회나 저항으로 사회적 비용이 낭비될 수도 있습니다.
서현아 앵커
네, 선거 자체에 대한 신뢰도도 떨어뜨릴 수가 있는 상황인데 현실적으로 기술의 발전 자체를 막기는 어렵기 때문에 이 영향력을 최소화하는 게 중요할 것 같습니다.
그렇다면 우리 선거 환경에서 딥페이크나 AI 허위 정보에 대한 대응 체계가 제대로 마련이 되어 있습니까?
송경재 교수 / 상지대학교 사회적경제학과
네. 국내외적으로 딥페이크 허위조작정보의 위험성이 제기되면서 법제도가 정비되고 있습니다.
한국은 선거기간 만이 아니라 일상시기에도 딥페이크 문제가 발생하면서 사회적으로 충격을 주었습니다.
2024년에만 국내 유명 대학에서 여학생을 합성한 딥페이크 영상물이 텔레그램 대화방에 유포된 사건이 발생했고, 일부 K-팝 아이돌 딥페이크도 논란이 되었습니다.
이에 2024년 10월 16일 <성폭력범죄의 처벌 등에 관한 특례법>, <아동·청소년의 성보호에 관한 법률>에서 딥페이크 관련 처벌을 강화했습니다.
선거기간 정치 딥페이크 관련해서도 <공직선거법>이 지난 2023년 12월 개정되었습니다.
선거일 90일 전부터 AI 영상, 이미지 등을 이용한 선거운동을 금지하는 규정(제82조의 8 제1항)을 신설하고 위반한 경우 최대 7년의 징역형에 처하게 하였습니다.
그리고 선거운동 기간이 아닌 때에도 가상정보라는 점을 명시하지 않으면 최대 7년 징역형에 처하도록 규정했습니다.
서현아 앵커
네, 이런 가짜 정보를 거르는 데 또 중요한 역할을 해야 되는 게 저희 같은 언론의 역할이죠.
그리고 포털이나 SNS를 운영하는 이 플랫폼 기업들의 책무도 중요할 텐데 지금 대응 체계는 어떻게 평가하십니까?
송경재 교수 / 상지대학교 사회적경제학과
딥페이크에 대해서 언론과 인터넷 플랫폼 기업들도 심각하게 인지하고 있습니다.
언론에서는 관련 보도와 탐사기사가 발표되어 AI 딥페이크의 문제점을 환기시키고 내부적으로도 AI윤리나 범죄악용 등 내부 가이드라인도 준비하고 있습니다.
플랫폼 기업들도 딥페이크로 인한 피해를 줄이기 위한 노력을 하고 있습니다.
플랫폼 기업은 딥페이크 모니터링 기술 대응을 우선하고 있습니다.
대표적으로 구글은 딥페이크 감지 기술 연구에 자사 데이터베이스를 제공했고요.
엑스(예전에는 트위터였지요)는 조작된 콘텐츠를 공유하지 못하게 하거나, 허위임을 알리는 링크 삽입 등 기술 개발을 진행하고 있습니다.
언론과 플랫폼 기업은 아직 여론 환기와 기술적 대응이 주를 이루고 있습니다.
AI 발전속도를 감안한다면, 좀 더 체계적인 대응이 필요한 시점입니다.
서현아 앵커
네, 그렇군요.
이게 우리만의 문제가 아니지 않습니까?
그렇다면 이 해외 국가들은 어떻게 대응을 하고 있을까요?
송경재 교수 / 상지대학교 사회적경제학과
해외에서도 딥페이크 문제를 심각하게 인지하지만, 아직 획기적인 방안은 마련하지 못하고 있습니다.
플랫폼기업에게 딥페이크 정보 삭제 의무 부과, AI 서비스에 '워터마크' 의무화도 논의되지만 실효성에 의문이 있는 상황입니다.
제가 최근 주목하는 것은 정부, 언론사, 플랫폼 기업, 학계, 시민 등의 협업을 통한 문제 해결입니다.
지금은 메타로 이름을 바꾼 Facebook은 2019년 9월에 Microsoft, MIT, 옥스퍼드대학의 전문가들과 딥페이크 감지 기술 경연 대회를 개최했습니다.
문제해결이 어려울 때 협업 대응책 마련이란 점에서 시사하는 바가 있습니다.
특히 우리나라는 언론계와 플랫폼, 학계 등이 협업하여 한국인 딥페이크를 모니터 할 수 있는 방법을 강구하면 성과가 있을 것입니다.
서현아 앵커
네, 그런데 이 제도적 규제만으로는 한계가 있는 만큼 유권자 개인의 소양과 대응도 중요해 보이는데요.
가짜 정보를 가려내려면 어떤 점을 유의해야 할까요?
송경재 교수 / 상지대학교 사회적경제학과
네, 먼저 학계에서는 미디어 나아가 AI 리터러시와 민주시민교육을 확대해야 한다는 목소리가 있습니다.
선거 기간동안 유권자들이 딥페이크로부터 피해를 줄이기 위해서는 <현명한 유권자, 스마트 유권자>가 되어야 하는데, 이를 위해서 미디어 리터러시와 시민이 올바른 정치정보를 평가할 수 있는 능력을 키우는 것도 중요합니다.
한국도 시도하고 있습니다만, 독일은 16개 주에서, 프랑스는 중학교 교육과정에 그리고 핀란드는 2019년 유년기부터 고교교육까지 리터러시를 교육하고 있습니다.
이런 미디어 리터러시는 시민으로서 올바른 정보를 생산, 소비할 수 있는 능력을 키우는 민주시민교육으로 발전해야 합니다.
그랬을 때, 딥페이크나 허위조작정보로부터 유권자인 시민들이 휘둘리지 않고 현명한 선택을 할 수 있을 것입니다.
서현아 앵커
네, 인공지능 기술은 갈수록 교묘해지고 진짜와 가짜를 구별하기도 어려워지고 있습니다.
민주주의의 꽃이라고 불리는 선거가 공정하게 치러질 수 있도록 우리 사회가 머리를 맞대고 대응 방안을 모색해야겠다는 생각이 듭니다.
교수님 오늘 말씀 잘 들었습니다.
Copyright © EBS. 무단전재 및 재배포 금지.