[장덕진 칼럼] 인공지능의 선거 개입, 대책은 있나

어느새 대학은 학기말을 향해 가고 있다. 자연스레 내년 봄학기 강의 준비를 생각하게 되는데, 가장 중요한 고려사항은 인공지능이다. 지금까지 학생들을 가르치면서 가급적 객관식이나 단답형 문제를 내지 않으려고 노력해왔다. 학생들의 깊은 사고를 유도하기보다는 단순히 암기하도록 만들 우려가 크기 때문이다. 채점하는 입장에서는 수십명이 제출한 장문의 논술형 답안을 채점하는 것이 훨씬 더 번거롭다. 하지만 학생들의 공부의 깊이와 생각의 전개를 평가하는 데에는 논술형이 낫다. 그러나 다음 학기부터는 이것도 쉽지 않을 것으로 전망된다. 논술형 기말보고서를 내줄 경우 학생들 중 일부는 틀림없이 인공지능에 써달라고 할 것이니 말이다.

몇몇 대학들은 인공지능 가이드라인이라는 것을 제정했다. 혹시나 해서 찾아봤는데 걱정했던 대로 실망스러운 수준이다. 대개는 교수자가 학기 초에 인공지능을 활용해도 좋은지 아닌지 분명하게 알려줘야 한다든가, 학생들은 보고서에 인공지능을 활용했을 경우 그 사실을 알려야 한다는 내용에 그치고 있다. 이런 규정들은 나중에 문제가 됐을 경우 처벌 근거가 될 수는 있겠지만 실제로 어떻게 활용해야 한다는 가이드라인으로서의 기능은 미미하다고 할 수밖에 없다.

고심 끝에 요즘에는 프롬프트 엔지니어링에 관심을 갖게 됐다. 프롬프트 엔지니어링은 인공지능으로부터 최선의 답변을 얻기 위해 무슨 질문을 어떻게 해야 할지를 연구하는 분야이다. 학생들의 인공지능 활용을 막을 수도 없고 굳이 막을 이유도 없다면, 차라리 최선의 질문을 할 수 있도록 교육내용을 구성하는 것이 낫지 않을까 하는 생각이다.

대학 바깥으로 눈을 돌려보면 당장 눈에 띄는 걱정거리는 6개월도 남지 않은 총선이다. 과거 SNS가 그랬던 것처럼 내년 총선부터는 인공지능이 선거에 커다란 영향을 미칠 것이 분명하다. 생성형 인공지능은 학습한 데이터에 기반해 가장 자연스러운 특징을 구현한다. 언어모델은 한 단어를 말한 다음 가장 자연스러운 다음 단어를 구현하고, 딥페이크 기술은 가장 자연스러운 이미지나 음성을 만들어낸다. 자연스럽다는 것은 인간이 속아 넘어가기 가장 좋다는 뜻이기도 하다.

인공지능을 활용해 세계를 들썩거리게 한 사건들의 목록은 이미 충분히 쌓여 있다. 도널드 트럼프의 가짜 머그샷 정도는 애교였고, 최근에는 가자지구에서 잿더미를 뒤집어쓴 채 다섯 명의 아이를 안고 업고 나오는 아버지의 사진이 가짜 이미지였다는 사실이 밝혀졌다. 미국에서는 이미 재선 도전을 선언한 조 바이든 대통령의 목소리와 이미지를 합성해 마치 그가 혐오발언을 한 것처럼 만든 동영상이 퍼져나갔고, 공화당 전국위원회는 아예 ‘역사상 가장 약한 대통령이 재선된다면’이라는 네거티브 광고를 내보냈다. 이 광고에는 대만이 중국의 공격을 받고, 미국 경제가 파탄 나 상점마다 도둑을 막기 위해 진열장을 가리고, 문신을 새긴 범죄자와 이민자들이 판을 치는 거리에서 총을 든 군인들이 순찰을 도는 가짜 이미지들이 나열되었다.

이런 가짜 동영상이나 이미지 말고도 인공지능을 활용해 선거에 영향을 줄 수 있는 가능성은 활짝 열려 있다. 인공지능이 유권자에게 전화를 걸어 특정 후보의 목소리를 똑같이 흉내내면서 혐오스러운 내용을 자신의 정책이라고 주장한다거나, 선거일 직전에 자신이 사퇴했다거나 다른 후보를 지지한다고 말할 수도 있다. 더 신뢰성을 부여하고 싶다면 유명 앵커의 뉴스 인터뷰 장면을 똑같이 만들어내 특정 후보가 인터뷰에서 혐오발언을 한 것처럼 만들 수도 있다. 이것들은 모두 가능성이 아니라 이미 일어났던 사건들이다.

진짜 문제는 이제는 전문가가 아니라 누구라도 거의 비용을 들이지 않고 이런 일들을 할 수 있다는 점이다. 북한이나 대한민국에 적대적인 세력이 국외에서 우리 선거에 이런 방식으로 개입할 수도 있다. 이런 일이 실제로 일어난다면 걷잡을 수 없는 혼란이 일 것이다. 가뜩이나 어느 때보다 양극으로 나뉘어 있는 정치세력과 지지자들이 선거 결과를 부정하는 것은 당연할 것이고 무슨 혼란이 일어날지 모른다.

얼마나 대비가 되고 있는지 모르겠다. 노파심에 자료를 찾아보니 중앙선관위는 전문가 초청 세미나를 진행하고 있다고 하고, 관련 법안은 남인순 의원과 송석준 의원이 발의한 선거법 개정안 정도인데 앞서 언급한 인공지능의 다양하고 광범위한 선거 개입을 막기엔 턱없이 부족해 보인다. 내년에 있을 강의도 선거도 무탈하길 바랄 수밖에 없는 건가.

장덕진 서울대 사회학과 교수

장덕진 서울대 사회학과 교수