AI와 공존하려면 [편집인의 원픽]

바닥에 깔린 많은 종이들 가운데 하나를 탁 집어 책상 위에 올려놓는 일. 흔히 언론의 역할로 불리는 어젠다 세팅(Agenda Setting·의제 설정)이 그와 같다. 지금 이 순간에도 세상에는 수 많은 이야기들이 쏟아진다. 그 중에 뉴스 소비자들에게 의미 있는 이야기가 뭘까. 고민과 취재를 거쳐 우리가 내놓는 기사(어젠다)는 독자에 말을 거는 일이다. 뉴스 수명이 갈수록 빨라지는 요즘, 조금이라도 더 많은 독자들과 나누고 싶은 세계일보만의 기사를 소개한다.

미국 펜타곤(국방부)에서 대형 폭발이 발생한 가짜 사진

더불어민주당의 압승으로 끝난 2020년 4·15 총선 후에 민주당의 빅데이터를 활용한 선거 시스템에 관한 칼럼(“너는 다 계획이 있구나”)을 쓴 적이 있다. 민주당은 당시 양정철 민주연구원장 주도로 이동통신사 빅데이터를 지역별 선거 전략에 활용해 ‘정치 마케팅’의 진화를 보여줬다. 보도 후 몇몇 전문가들로부터 이메일을 받았는데 대부분 정치권의 빅데이터 활용이 현행 개인정보보호법이나 위치정보법 등에 위반되는 것은 아닌지 추적해봐야한다는 내용이었다. 실제 민주당을 대상으로 개인정보법 위반 등에 대한 고발장이 접수되기도 했는데 흐지부지된 걸로 기억한다. 이미 미국에서는 2016년 대선때 도널드 트럼프 후보를 도운 영국 데이터분석기업 케임브리지 애널리티카(CA)가 페이스북 이용자들의 ‘좋아요’ 정보를 통해 개인정보를 파악, ‘타깃’ 선거전략에 써먹어 CA가 공중분해되는 등 파문이 벌어졌다.

불과 3년 여전 일인데 이런 식의 데이터 활용은 이제 구문(舊聞)이 됐다. 인공지능(AI) 시대가 열렸기 때문이다. 생성형 AI chat-GPT 등장 이후 하루가 다르게 진화, 양산되는 AI 프로그램은 선거 현장은 물론 교육, 노동, 창작 환경에 일대 변혁을 몰고 왔다. AI 프로그램을 만든 사람들조차 “어떤 식으로든 규제가 필요하다”고 하지만 아직도 각 국 정부는 어디서부터 어디까지, 무엇을 규제해야하는 지에 대한 공감대를 만들지 못하고 있는 형편이다.  ‘AI앞에 선 민주주의’ 시리즈 (9월4일자∼조병욱·박지원·유지혜·김병관 기자)는 AI 시대가 던진 긍·부정적 변화와 대응 방안을 모색하고 있다. AI발 가짜뉴스, 개인정보 침해와 같은 부정적 영향 뿐 아니라 교육, 행정 등에 긍정적으로 활용되는 사례를 통해 ‘공존’의 길을 찾고자 하는 기획이다.

도널드 트럼프 전 미국 대통령이 경찰에 연행되는 가짜 사진

◆AI와 정치가 만나면

최근 불거진 대장동 일당 김만배씨의 ‘가짜뉴스’ 파문에서 보듯 선거 현장에서 허위·음해정보를 둘러싼 논란은 역사가 깊다. 하지만 AI 시대 ‘가짜뉴스’ 논란은 이전과 차원이 다를 것이라는 게 전문가들의 전망이다. AI를 통해 거짓 정보를 그럴 듯하게 만들기도, 포장하기도, 배포하기도 너무 용이하기 때문이다. AI를 이용해 가짜 사진, 영상 등을 합성하는 딥페이크(Deepfake)는 경찰에 연행되는 트럼프 전 대통령 사진이나 대형 폭발이 발생한 미국 펜타곤 사례 등으로 많은 이들을 혼란케 했다. 정치 영역에서의 딥페이크에 관해 연구한 매트 그로 미국 노스웨스턴대 조교수는 본지 인터뷰에서 “지금과 100년 전의 가장 큰 차이점은 오늘날에는 거짓 정보를 훨씬 더 쉽고 빠르고 값싸게 생성할 수 있다는 것”이라고 했다. 

거짓 정보를 유통하는데만 활용되는 게 아니라 유권자를 분석, 타깃 선거운동을 벌이고 후원금을 모금하고 여론 흐름을 파악하는 데도 AI 활용도는 높다. 정치인들이 가장 얻고 싶은 정보는 무엇일까. 자기 지역구 유권자들 가운데 누가 자신을 찍을만한 사람인지에 관한 정보일 것이다. 모든 사람을 설득할 시간도, 수단도 없으니 자기를 찍을만한 사람을 골라내 그들을 대상으로 선거운동을 하는 게 당선의 지름길이다. AI가 더 다양한 데이터를 찾아 유권자 성향을 분석할수록 마이크로 타기팅 효과는 커진다. 본지가 국내에 서비스 중인 오픈AI의 챗GPT, 구글의 바드, 마이크로소프트(MS)의 빙 등 3대 생성형 AI와 개인 추천화 알고리즘이 포함된 사회관계망서비스(SNS) 유튜브와 메타(페이스북)를 대상으로 개인정보 수집 현황을 조사한 결과 민감한 프라이버시 정보가 대거 수집되는 것으로 확인됐다. 사람들의 취향, 관심사, 구매 이력, 검색어는 물론 집 주소, 친구 관계 등에 이르기까지 다양한 사생활 정보를 파악할 뿐 아니라 개인의 정치 성향 등도 추론이 가능한 수준이다. 

핀란드의 온라인 AI 보편교육인 ‘엘리먼츠 오브 AI’를 운영하고 있는 교육 기업 민나런(MinnaLearn)의 직원들이 프로그램을 시연해 보며 의견을 교환하고 있다.  헬싱키=박지원 기자

◆AI, 감당할 준비 돼 있나

생성형 AI 프로그램이 가져올 변화, 혁신에 관한 소문은 무성한 데 이에 대한 준비는 미흡한 게 사실이다. 본지 취재를 종합하면 내년 총선을 앞두고 AI를 활용한 선거 운동, 거짓 정보 유통 등에 대한 우려가 커지고 있지만 중앙선관위가 특별대응팀을 운영하는 수준이다. 선관위 측은 모니터링반, 분석·삭제반, 허위사실·비방검토자문단 등을 운영하며 “AI로 생성한 이미지, 동영상 등을 감별하고 게시물간 연관성을 탐지 추적해 여론 조작 여부 등을 판별할 계획”이라고 했다. 하지만 매번 진화하는 정치 마케팅 기술을 정부 규제가 따라가는 건 역부족이다. 공직선거법에 AI를 이용한 허위 정보를 명시하는 관련 법 개정이 필요하다는 지적이 많지만 손도 못대고 있는 실정이다.

영국, 독일 등 선진국 의회는 AI를 전담하는 위원회를 구성해 개인 데이터 수집 이슈 뿐 아니라 AI 활용의 책임성, 윤리성, 공공성 등에 관한 입법 논의를 진행중이다. 우리 국회는 아직 이를 전담하는 위원회가 없다. 관심있는 일부 의원들의 법안 발의가 있지만 속도감있게 논의되고 있는 건 없다. 이미 일상에 파고든 AI를 교육이나 정책 홍보 수단 등으로 활용하기 위해서도 관련 입법 논의가 필요한 시점이다.  지성우 성균관대 법학전문대학원 교수는 “현행 법규는 누군가 일부러 만들어낸 거짓말을 처벌하는 것인데, AI가 자체적으로 생성한 허위정보에도 적용할 수 있는지 불확실하다”며 국회가 관련 입법에 나서야 한다고 강조했다. 그는 특히 “국회가 딥페이크에 대한 책임 문제를 확실히 하고 처벌 조항을 강화한 법안을 마련해야 한다”고 했다. 

신기술에 대한 찬사가 쏟아졌던 전례와 달리 AI에 대해서는 우려의 목소리가 크게 들린다. 그만큼 우리 일상과 노동 생태계를 넘어 정치, 안보에까지 미치는 파급력이 큰 탓이다. 세계적인 외교전문가인 헨리 키신저와 구글 CEO 출신인 에릭 슈밋, MIT 슈워츠먼컴퓨팅대학 초대학장인 대니얼 허튼로커는 ‘AI 이후의 세계’에서 “우리는 임박한 미래를 손안에 둬야한다”며 “AI를 신뢰하려면 그 정확성과 안전성, AI와 인간의 목적 일치성, AI 운용자의 책임감이 개선돼야 한다”고 했다. 하지만 이러한 당위론에도 불구하고 이들은 많은 질문을 남긴다. 우리가 완전히 AI를 통제할 수 없다면 어떤 일이 벌어지는가. 사람들이 보고 듣는 것을 믿는다는 ‘학습’이 무너졌을 때 교육은 어떻게 이뤄져야 하나. AI 네트워크 플랫폼이 국가의 주권에 대한 전통적 인식을 깬다면 세계의 미래는 어떻게 될까. AI에 관한한 아직은 정답보다는 꼬리에 꼬리를 무는 질문이 길게 이어진다. 

P.S. 챗 GPT에 물어봤습니다. 
 
-AI가 선거에서 가짜뉴스를 만들고 유통하는 채널로 이용되는 데 대한 우려가 많은데 어떻게 생각하나. 
 
“그런 우려는 타당하다. AI는 설득력 있는 텍스트, 이미지, 비디오를 생성하는 능력으로 인해 잘못된 정보와 허위 정보의 확산을 증폭시킬 수 있는 잠재력을 가지고 있다. 특히 표적화된 허위 정보 캠페인은 특정 유권자 그룹에 영향을 미쳐 선거 결과에 악영향을 미칠 수 있다. 이러한 문제를 해결하려면 정부, 기술 기업, 시민 사회가 다양한 분야에서 협력하는 것이 중요하다. 무엇보다 악의적인 AI 생성 콘텐츠에 책임이 있는 사람들에게 책임을 묻기 위한 관련법 제·개정이 필요하다. 정보 출처를 비판적으로 평가하는 대중의 미디어 리터러시를 장려하는 것이 필수적이다. 즉 기술적, 규제적, 교육적 노력이 포함된 다각적 접근 방식이 필요하다.”
 
-AI가 무차별적으로 개인 데이터를 수집하는 것을 막을 수 있나.
 
“개인정보 침해, 보안 문제를 해결하기 위한 다양한 조치를 취할 수 있다. 유럽 연합의 일반 데이터 보호 규정(GDPR) 및 캘리포니아 소비자 개인 정보 보호법(CCPA)과 같은 데이터 보호법을 제정할 필요가 있다. 데이터 수집 및 처리 방식은 물론 사용하는 알고리즘에 대해서도 투명해야 한다. 또한 개인이 자신의 개인 데이터에 접근, 수정, 삭제할 수 있는 메커니즘을 갖추고 있어야 한다. 개인 데이터에 관한 권리와 온라인에서 개인 정보를 보호하는 방법에 대해 대중을 교육하는 것도 중요하다.”
 
-AI를 만든 사람들조차 어떤 식으로든 규제해야한다고 주장하는데.
 
“궁극적으로 AI 규제의 목표는 혁신 촉진과 윤리 원칙, 개인 정보 보호 및 사회 복지 보호 사이의 균형을 맞추는 데 있다.”

 

<관련 기사>
 
①정치와 AI, 네거티브부터 선거전략까지
 
진짜보다 더 진짜 같은 ‘가짜’… 유권자 속인다 [심층기획-AI 앞에 선 민주주의]
https://www.segye.com/newsView/20230903508448
 
AI가 당대표… 데이터 분석해 공약 내걸어 [심층기획-AI 앞에 선 민주주의]
https://www.segye.com/newsView/20230903508562
 
유권자 성향 파악해 ‘핀셋 선거운동’… AI, 美대선도 쥐락펴락 [심층기획-AI 앞에 선 민주주의]
https://www.segye.com/newsView/20230903508563
 
더 쉽고 빠르고 값싸게 가짜뉴스 ‘뚝딱’… 정치·경제 위협 가속 [심층기획-AI 앞에 선 민주주의]
https://www.segye.com/newsView/20230903508513
 
현행 선거법 AI 생성 거짓정보 처벌 모호… “허위사실공표죄 적용 명시… 입법 서둘러야” [심층기획-AI 앞에 선 민주주의]
https://www.segye.com/newsView/20230903508514
 
구글 “선거광고에 AI 사용 표시 의무화” [심층기획-AI 앞에 선 민주주의]
https://www.segye.com/newsView/20230907515687
 
②개인정보 먹고 자란 AI, 기본권 위협한다
 
사생활 무한수집… 정치성향도 캔다 [심층기획-AI 앞에 선 민주주의]
https://www.segye.com/newsView/20230904515038
 
“AI 업무시스템, 생산성만 추구… 노동권 침해” [심층기획-AI 앞에 선 민주주의]
https://www.segye.com/newsView/20230904515035
 
③AI 시대의 새 규칙, 어떻게 짜야 할까
 
사고·논란 9년 새 26배 급증… ‘FATE’ 확보에 ‘운명’ 달렸다 [심층기획-AI 앞에 선 민주주의]
https://www.segye.com/newsView/20230905514810
 
AI 법 기초 ‘윤리기준’ 만들었지만… 관련법 제정은 전무 [심층기획-AI 앞에 선 민주주의]
https://www.segye.com/newsView/20230905514813
 
④아이부터 노인까지, 모두를 위한 AI교육
 
‘AI 보편교육’ 선택 아닌 필수… “미래 민주주의 핵심 동력” [심층기획-AI 앞에 선 민주주의]
https://www.segye.com/newsView/20230906514702
 
“아이들 놀이 통해서 자연스럽게 AI 원리 체득” [심층기획-AI 앞에 선 민주주의]
https://www.segye.com/newsView/20230906514701
 
⑤미디어 리터러시 넘어 ‘AI 리터러시’로
 
편향된 ‘알고리즘’에 갇힌 세상… ‘AI 문해력’ 교육 급선무 [심층기획-AI 앞에 선 민주주의]
https://www.segye.com/newsView/20230907515674
 
“윤리적 사용 강조 이상으로 AI 기술 자체 이해 중요” [심층기획 - AI앞에 선 민주주의]
https://www.segye.com/newsView/2023090751566