AI는 숙명도, '수레'도 아니다…"산업 일변도 정책, 사회정책 전환해야"

[AI가 지워선 안 될 사람들] ⑦ 장여경 정보인권연구소 상임이사
"산업계에 주도권 준 정부, 이해당사자 노동자·시민 고려 않아"
타격 현실화에도 거대한 'AI 이미지 정치'…토론 가로막아
"AI전략위 결정 구조 바꿔야…샌더스 'AI 모라토리엄' 토론하자"

[미디어오늘 김예리, 노지민, 정민경, 윤유경 기자]

▲장여경 정보인권연구소 상임이사가 지난달 28일 서울 서대문구 정보인권연구소 사무실에서 미디어오늘과 인터뷰하고 있다. 사진=미디어오늘

“인공지능(AI) 정책을 둘러싸고 커다란 이미지 정치가 벌어지고 있다.” 장여경 정보인권연구소 이사는 정부와 산업계가 주도하는 AI 정책 담론을 이렇게 요약했다. 정부는 'AI 기본사회', 'AI 고속도로', 'AI 3대 강국' 같은 열쇳말로 정책 방향을 제시해왔다. 현대차의 피지컬 AI 도입에 노동자들이 협상을 요구하자 이재명 대통령은 '거대한 수레'와 '러다이트' 구도를 꺼냈다. 장 이사는 이같이 'AI 진흥은 이미 주어진 것이고 모두가 써야 하는 것이라는 전제'가 AI가 사회에 미칠 영향에 대한 토론과 문제 제기 자체를 어렵게 만든다고 지적한다.

그는 현 정부 AI 정책의 가장 큰 문제로 산업계 중심의 의사결정 구조를 꼽았다. 지난해 9월 'AI 발전과 신뢰기반 조성'을 목표로 출범한 대통령 직속 국가인공지능전략위원회(국가AI전략위)는 기술산업부처인 과학기술정보통신부가 주도하고 사업자 대표 중심의 민간위원 32명으로 구성됐다. 전략위에서 공정거래와 인권, 성평등 등 사회정책 부처는 물론 노동자와 시민 대표들은 빠졌다. 그 사이 AI 산업에 의해 전 사회가 입을 타격은 막연한 가능성이 아닌 현실이 됐다. 장 기사가 지금의 정책 방향이 “인공지능 산업을 위해 국민 전체를 권리 주체가 아니라 '테스트베드(실험대)'처럼 쓰겠다는 것이다. 국가의 인권 보호 의무를 저버리는 것”이라고 비판하는 이유다.

장 이사는 “AI는 숙명도 수레도 아니다”라고 강조한다. 노동자와 시민에 미칠 영향을 더 이상 “부수적 피해”로 여기지 말고, 국가의 AI 정책을 산업 정책이 아닌 사회 정책으로 전환해야 한다는 것이다. 나아가 버니샌더스의 'AI 모라토리엄(일시 중단)' 요구를 한국 사회도 진지하게 논의해야 한다고 했다. 샌더스 의원은 빅테크가 밀어붙이는 AI기술 진흥을 '과두정치'라고 비판하면서, AI가 사회에 미칠 영향을 이해하고 노동자 보호 대책이 마련될 때까지 데이터센터 확장을 일시 중단하도록 요구하고 있다. 지난달 25일과 지난 13일 대면과 전화로 진행한 장 이사의 인터뷰를 일문일답으로 정리했다.

▲버니 샌더스 미국 상원의원이 지난 12일 게시한 “지금 당장 AI 데이터센터에 대한 모라토리엄(일시 중단)이 필요합니다” 유튜브 섬네일 갈무리

- 정부가 'AI 기본사회' 'AI 고속도로' 등을 언급하며 AI산업 진흥을 강조하고 있다. 지난해 서울에서 열린 '국제 AI 표준 서밋'에서 세계 3대 국제표준기구가 멀티스테이크홀더리즘(multistakeholderism), 다양한 이해관계자의 참여를 핵심 원칙으로 천명한 것과 대조된다. 정부의 현 AI 정책을 어떻게 평가하나.

“AI 정책은 산업 정책을 넘어 사회 정책이 돼야 한다. 국제 규범이 '멀티스테이크홀더'를 반복해 강조해온 것도 정부와 산업이 일방으로 주도하지 말고 다양한 이해관계자가 민주적으로 정책을 풀어가라는 뜻이다. 정부의 AI 정책을 보면, '산업계'라는 이해관계자는 강력하게 주도하고 있다. 심지어 주도권을 산업계에 내어주다시피 한 듯하다.

반면 일반 시민과 노동자의 이해당사자는 고려되지 않고 있다. 기술 산업부처인 과학기술정보통신부 외에 여러 사회정책 부서들과 AI 사회 정책을 어떻게 가야 할지에 대한 논의도 거의 보이지 않는다. 단적으로 지난달 9일 국가AI전략위와 시민사회의 간담회가 처음 열렸다. 과기부가 민주노총과 처음 대화하는 자리였다. 다른 시민사회단체도 마찬가지다. 정부는 여러 이해관계자 중 '산업계와만' 이야기하고 있다.”

- 정부는 정책 방향으로 'AI 기본사회' 개념을 제시했다.

“지금까지 나온 설명을 보면 AI 기본사회는 AI를 주어진 조건으로 전제하고, '모두가 쓰는 AI' 개념으로 기본사회를 말하는 것 같다. (정부는 보도자료에서 AI 기본사회를 '기술 발전의 기회를 고르게 제공한다'는 뜻이라 설명했다.) 그런데 정말로 AI를 숙명처럼 받아들여야 하나? 이번에 현대자동차 아틀라스 도입 논란에서도 노동조합이 입장을 냈다. 그러자 대통령이 '피할 수 없는 수레'라는 표현을 썼다. AI가 과연 피할 수 없는 수레인지부터 토론이 필요하다.

사실 현대차노조의 입장은 간명했다. '협상하자'였다. 이조차 받아들이지 못한다면 정부가 말하는 AI 기본사회란 누구의 사회인지 묻게 된다. 버니 샌더스 미국 상원의원이 연일 빅테크 중심 AI 질서를 과두정치라고 비판하며 모라토리엄(일시 중단)을 요구하고 있다. AI 발전이 몇몇 기업을 위한 것인지, 노동자를 위한 것인지를 물었다. 우리도 그 질문을 피할 수 없다.”

▲이재명 대통령이 지난해 9월8일 서울 중구 서울스퀘어에서 열린 '대한민국, AI로 날다' 국가인공지능전략위원회 출범식에서 발언하고 있다.

- 전국금속노동조합 현대차지부의 피지컬AI 도입에 대한 협상 요구에 정부에 이어 언론의 '포화'도 있었다. AI 산업에 대한 근본적 문제 제기 자체가 어려운 분위기인데.

“AI 정책을 두고 커다란 이미지 정치가 벌어지고 있다고 본다. AI란 말로 구체적인 이야기를 뭉뚱그리는 것이다. 예컨대 저출생 고령화 시대에 돌봄은 매우 중요한 정책 영역이다. 이에 돌봄에 대한 공공 정책을 고민하던 터였다. 그런데 갑자기 정부 차원에서 AI 로봇으로 돌봄노동을 대체하겠다고 나서는 식으로, AI가 불가피한 것으로 얘기되고 공공성 논의는 빠진다. 이러한 돌봄 정책 방향이 올바른지는 토론하지 못하게 된다. 우리 사회가 겪는 여러 문제를 AI란 말로 뭉뚱그려 더 이상 말을 못 붙이게 하고, 방향도 틀 수 없도록 한다. 이미지를 벗고 구체적인 이야기를 해야 한다.

한 가지 흥미로운 점은 대통령이 현대차 노조 요구를 두고 러다이트, 기계 파괴론자를 언급한 대목이다. 러다이트는 흔히 감정적이고 퇴행적인 신기술 거부로 기억되는데 실제 역사를 살펴보면 다르다. 1811년 영국에서 노조 결성과 집회·시위 모두 불법이고 노동자에 투표권도 없던 시기에 제조공들이 주도했다. 이들은 세 원칙을 걸었다. ①노사 합의를 지키지 않거나 ②제조 물량에 따른 임금을 지급하지 않거나 ③임금을 현금이 아닌 물건으로 주는 고용주의 공장 기계를 파괴하겠다고 했다. 정치·경제권력이 없던 상태에서 일어난 집단 저항이었고, 이는 큰 싸움을 거쳐 보통선거권 보장으로 이어졌다. 이런 시대상은 배제되고 '신기술을 거부한 퇴행적 운동'이라는 이미지만 남았다. 노조의 협상 요구에 대해 러다이트를 끌어와 퇴행적으로 규정하는 '이미지 대결'의 방식으로는 대화가 어렵다.”

- 국가AI전략위는 지난 12일 본지 인터뷰에서 AI 정책이 산업 진흥 일변도라는 각계 우려에 대해 대부분이 오해이며 공포감이 생각보다 크다고 밝혔다. 'AI민주주의 분과'를 신설한다고도 했다.

“인터뷰를 보고 크게 실망했다. 저작권과 노동권에 대한 우려에 인터뷰 전반에서 '공포가 크다', '공포 마케팅'이라고 반복해 말했는데, 그런 평가야말로 근거 없는 주장이다. 실제 지난 1일 한국노동연구원 보고서는 AI를 도입한 기업에서 청년층 고용이 눈에 띄게 감소했다고 발표했고, 산업연구원도 AI 도입 기업에 의한 고용 충격을 경고했다. 최근 국회를 통과한 자율주행차법은 안전성 향상을 이유로 개인정보보호법을 무시하고 원본 데이터를 민간기업에 제공할 수 있도록 했다. 노동자이자 데이터의 주인인 시민 입장에서 우려를 제기하는 건 근거 없는 공포가 아니다. 오히려 AI가 모든 사회 문제를 해결할 것처럼 보는 태도가 근거 없는 기술만능주의이다. 청년 고용 감소 대책을 논의하려면 AI 정책의 논의 구조 자체를 바꿔야 한다. 산업계 중심의 전략위를 유지한 채 분과 하나를 신설하는 정도로는 해결하기 어렵다.”

- AI 정책이 어떤 점에서 과기부와 산업계 중심 구조인가.

“단적 사례가 있다. AI전략위가 지난 2월10일 최근 논의 내용을 국무회의에서 보고했다. 그 자리에서 공정거래위원회, 금융위원회, 성평등가족부 등 사회정책 부처들이 전략위에서 빠져 있다는 지적이 이어졌다. 위원회에 참여시켜 달라는 요청도 있었다. 문화예술·콘텐츠 창작노동자 문제도 마찬가지다. 행동계획안에도 과기부와 문화체육관광부가 협력해 추진한다고만 돼 있을 뿐, 다른 부처는 논의 주체에서 아예 빠져 있다. 노동자와 시민 등 이해관계자는커녕, 정부 내 사회정책 부서나 규제 부처도 충분히 참여하지 않고 있다. 국가AI전략위 자체를 재설계할 필요가 있다.”

▲국가AI전략위원회 민간위원 일부 소개화면 갈무리. 국가AI전략위 홈페이지

- 국가AI전략위원회를 어떻게 바꿔야 할까.

“중요한 건 의사결정 구조의 변화다. 현재 전략위는 과기부 주도의 당연직 정부위원들과 산업계 중심 민간위원 32명으로 이뤄졌다. 여기에 인권위와 공정위, 성평등가족부 등 사회정책 부서와 규제 부처가 모두 들어와야 한다. AI 기본법상 AI전략위 구성(7조)을 보면, 전략위는 당연직 위원으로 구성된다. 위원 업무를 지원하는 지원단을 두고, 필요할 경우 분과를 두도록 했다. 사회정책 부처의 역할이 분과 수준에 머물러서는 AI 정책에 영향을 미치기에 부족하다. 지원단에도 사회정책 담당 부처들의 파견을 늘려야 한다.”

- 1월부터 시행된 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)'도 같은 문제를 갖고 있나. 정부는 '세계 최초'라고 홍보했다.

“마찬가지다. 법안 자체도 과기부 주도로 매우 빠른 속도로 국회를 통과했다. 상임위원회 법안심사소위 두 차례, 공청회와 전체회의, 법사위는 한 차례뿐이었다. 법사위에 와서야 관계 부처들이 처음 나와 이견을 냈다. 산업통산자원부는 국가표준(KS) 소관 부처인데 법안이 AI 관계 제품 국가표준을 과기부 장관이 만들도록 한 점을 항의해 관리 주체에 산자부도 포함됐다. 그러나 문화체육관광부가 저작권 보호를 위해 학습 데이터 목록 공개를 의무화하자고 요구한 내용과, 방송미디어통신위원회가 이용자 보호는 과기부가 아닌 방미통위 소관이라고 밝힌 이견은 과기부가 불수용했다. 과기부가 국가 AI정책의 옥상옥처럼 자리하면서 산업의 이해관계에 맞춰 모든 정책 요구를 검열하다시피 하는 셈이다.

특히나 인권 관련 내용에 문제의식이 크다. AI기본법은 기본권과 관련한 방대한 내용을 포함했지만 국가 인권전담기구인 국가인권위원회가 거의 관여하지 못했다. 예컨대 과기부 주도로 고영향 AI(사람의 생명·신체·안전·기본권에 중대한 영향을 미치는 AI)를 정의하면서 인권위 의견을 거의 반영하지 않았다. 전략위 구성에도 인권위가 포함되지 않았고, 법안이 고영향 AI 관련해 전략위 외에 전문위원회를 꾸려 자문받도록 했지만 인권위와 실질적 협의는 이뤄지지 않고 있다. 더구나 AI기본법은 고영향 AI의 영향평가(기본권에 미치는 영향에 대한 평가)도 규정했는데, 그 방식에 대해 인권위 전문성을 전혀 활용하지 않고 있다.”

- AI기본법에 창작물이 학습에 이용되는 자, 나아가 창작물을 소비하는 자 등 영향받는 이들의 권리는 얼마나 포괄되고 있나.

“관련해 감사원이 지난 1월5일 의미 있는 감사 결과를 발표했다. 감사원은 AI기본법이 이용자(AI를 도입한 기업) 보호 대책만 마련하고, 이로 인해 영향받는 자에 대한 보호 장치는 없다고 지적했다. 예를 들면 채용 AI로 이미 많은 청년들이 고통을 받는데, 우리 AI기본법은 AI를 사용하는 사업자의 책임을 규정하지 않았다. 유럽연합(EU)과 미국 콜로라도주 등의 관련 법은 사업자의 설명할 책무를 규정했다.

- 2023년 미국 헐리우드의 배우와 작가, 감독 파업을 '인류가 최초로 AI에 맞선 투쟁'이자 변화의 사례로 든 바 있다. 창작노동자와 소비자 같은 주체가 집단으로 목소리 내는 것을 어떻게 보나.

“매우 필요하다. AI로부터 영향받는 사람들은 개인으로는 취약한 상태에 놓인다. 특히 산업 기반 기술이자 시스템으로서 AI가 전면 도입되는 상황에 개인이 '제외해달라'거나 '선택권을 달라'고 요구하기 매우 어렵다. 그렇기에 더더욱 집단적 참여와 민주적 거버넌스가 필요하다. 정부도 'AI 민주정부'를 말하지 않았나. 마땅한 권리가 있음에도 소외되고 대표되기 어려운 사람들의 목소리를 충분히 반영하는 것이 AI 시대 민주주의를 위한 과제다.”

▲2023년 5월 미국작가조합(WGA) 파업 모습. 사진 출처=ufcw770

- 국내 언론의 AI와 관련한 보도는 인권과 사회정책의 측면에서 이뤄지고 있나.

“AI 관련 보도는 산업계 중심으로 이뤄지고 있다. 현대차 노조가 아틀라스 도입 문제를 제기했을 때 언론이 이를 부정적이거나 때로는 악의적으로 묘사하는 모습을 보며 의아하고 답답한 느낌이 들었다. 언론계엔 AI가 매우 빠르게 들어오고 있고, 기계의 속도를 사람인 기자가 따라가기 어렵다. 이런 환경 속에서 기자들은 단순히 적응해야 한다고만 생각하는지 궁금하다. 언론사 중 한국일보가 생성형 AI 사용 가이드라인을 만든 것으로 안다. 언론사가 그런 원칙을 세울 수 있다면 현대차 노조도 마찬가지로 할 수 있어야 한다. 당사자들이 스스로 원칙을 만들고, AI 로봇과 어떻게 함께 일할지, 자기 데이터를 로봇 학습에 사용할지 논의에 참여해 결정하겠다는 요구는 폄하할 일이 아니다.

언론사의 AI 도입이 공론장에 미칠 영향에 대해서도 더 고민할 필요가 있다. 언론 보도를 AI로 대체하면 일정한 효율성은 얻을 수 있지만, 그렇게 생산된 기사들이 공론장에 어떤 영향을 미칠지에 대한 논의는 충분하지 않다. 그 영향을 측정할 방법론도 부족하다.”

- 어떤 보도가 필요하다고 보나.

“언론인들이 AI를 추상적으로 신비화하는 태도에서 벗어나 구체적인 목소리와 AI가 도입되는 현장 실태를 다뤄주기를 당부한다. 미국 프로퍼플리카는 페이스북 광고 알고리즘이 어떻게 고연령·여성·유색인종 구직자를 차별했는지 밝혀냈다. 미국 법원이 쓰는 재범 예측 알고리즘의 인종편향도 탐사 보도로 나온 소중한 지식이다. 한국의 기자들은 AI와 속도전 경쟁을 하고 계시더라. 그러다 보니 국내에서 AI 관련해 벌어지는 일은 충분히 다루지 않는 것 같다. 답답해하고 어려워하는 사람들의 흩어지는 목소리를 모아 언어를 주는 것이 언론 아닐까.”

[AI가 지워선 안 될 사람들]
① AI 시대, 목소리의 주인은 누구인가…문체부, 성우표준계약서 추진
②-1. 연기자·코미디언·성우 48명에게 'AI 위협 느끼나' 물었다
②-2. '시댄스 쇼크' 마주한 연기자들…“피라미드에서 피뢰침 구조 될 것”
③ “AI 저작권, 방치한 문제 쌓였죠” 불법스캔 겪은 20년차 만화가의 경고
④ 게임 3D 모델러와 원화가들, 'AI 반복 작업' 내몰리고 대체된다
⑤ '폭싹 속았수다' 음악감독이 본 AI 시대 “콘텐츠 IP 산업 전부 무너질 위기”
⑥ 임문영 국가AI전략위 부위원장 “'진짜' 찾는 언론 더 중요해진다”
⑦ AI는 숙명도, '수레'도 아니다…“산업 일변도 정책, 사회정책 전환해야”

미디어오늘에서 직접 확인하세요. 해당 언론사로 이동합니다.