비등하는 AI 경계론, 재앙인가 과장인가

챗GPT로 대표되는 생성형 인공지능(AI)에 대한 경계심이 갈수록 고조되고 있다. AI가 무차별 생산한 가짜뉴스가 창궐해 민주주의가 허약해지고, AI가 대부분의 일을 처리하면서 인간은 일자리를 빼앗기고, 궁극적으로는 인간이 AI의 통제 아래 놓일 수도 있다는 우려다. AI 위협론이 지나치게 과장됐다는 반론도 나온다.

최근 생성형 인공지능(AI)의 위험성을 경고하는 목소리들이 잇따라 제기되고 있다. 로이터연합뉴스

뉴욕타임스(NYT)는 지난 5월 1일(현지시간) ‘AI가 제기하는 위험은 정확히 무엇인가’라는 제하의 기사에서 AI의 위험성을 크게 세 가지로 분류했다. 단기적으로는 ‘가짜뉴스’의 위협이 문제다. 생성형 AI는 인간이 쓰는 언어로 인간과 소통하기 때문에 가짜뉴스와 진실을 구분하기가 어려워진다. 중기적으로는 AI가 인간의 일자리를 대체해 실업자 양산이 우려된다. 챗GPT를 개발한 오픈AI 연구진들의 보고서에 따르면 미국 노동자들의 80%가 자신들의 직무 중 적어도 10%에서 챗GPT의 기반이 되는 거대언어모델(LLM)의 영향을 받는다. 최소 50% 이상 영향을 받는 노동자들도 19%에 이른다. 가장 두려운 시나리오는 AI에 대한 인간의 통제력 상실이다. 지난 3월 기술 분야 리더, 연구자, 전문가 등 1000여명은 AI가 인간의 통제를 벗어나 인간을 파괴할 수 있다고 경고하는 서한에 서명한 바 있다.

킬러 로봇 현실화될 위험성

AI 선구자의 ‘양심 고백’도 나왔다. AI 학습의 근간인 ‘딥러닝’ 개념을 처음으로 고안해 ‘AI 대부’로 불리는 제프리 힌튼 토론토대 교수는 2013년 이후 10년간 일해온 구글에 지난 4월 사표를 냈다. 힌튼 교수는 5월 1일 뉴욕타임스 인터뷰에서 AI 기술이 적용된 킬러 로봇이 현실화될 위험성을 경고하기 위해 사표를 냈다고 말했다. 그는 “많은 사람은 AI가 인간보다 현명해지는 것은 아주 먼 훗날이라고 생각했다. 나는 30~50년, 아니 그 이상 걸릴 것이라고 생각했다. 그러나 분명히 말하건대 지금은 더 이상 그렇게 생각하지 않는다”고 말했다. 힌튼 교수는 핵무기와 달리 어떤 국가나 기업이 비밀리에 AI를 개발하는지 여부는 알 수가 없다면서 AI를 통제할 방법을 찾기 전에는 AI 개발을 더 이상 진행해서는 안 된다고 말했다.

AI 바둑프로그램 알파고를 개발한 것으로 유명한 딥마인드의 공동창업자 무스타파 술레이만 인플렉션AI 최고경영자(CEO)는 5월 9일 싱가포르투자청(GIC)이 미국 샌프란시스코에서 주최한 행사에서 “많은 사무직 노동자들의 일자리가 향후 5~10년 안에 크게 달라질 것”이라면서 “심각한 수의 패배자들이 생기고 그들은 매우 불행해질 것”이라고 경고했다. 술레이만은 일자리를 잃는 사람들에게 물질적인 보상을 해줘야 한다면서 보편적 기본소득을 제공하는 방안을 진지하게 고려해야 한다고 말했다. 술레이만은 2014년 딥마인드가 구글에 인수된 후에도 구글에서 일하다가 지난해 퇴사했다.

세계적 베스트셀러 <사피엔스>의 저자 유발 하라리는 지난 4월 ‘이코노미스트’ 기고문에서 인간 문명이 AI에 의해 해킹될 위험에 처했다고 경고했다. 그는 “지난 몇 년 동안 예상치 못한 방향에서 인류 문명의 생존을 위협하는 새로운 AI 도구가 등장했다”면서 “AI는 단어, 소리, 이미지 등 언어를 조작하고 생성하는 놀라운 능력을 갖추게 됐고, 이로써 인간 문명의 운영 체제를 해킹하게 됐다”고 말했다. 하라리는 “민주주의는 대화이고 대화는 언어에 의존한다”면서 “AI가 언어를 해킹하게 되면 의미 있는 대화를 할 수 있는 능력을 파괴하고, 그럼으로써 민주주의를 파괴할 수 있다”고 우려했다.

의료와 보건 분야 전문가들도 AI 개발 중단을 촉구했다. 영국, 미국, 호주, 코스타리카, 말레이시아 출신 의사들과 공중보건 전문가들은 5월 9일 의학저널 ‘BMJ 글로벌 헬스’에 실린 논문에서 AI가 수백만명의 건강을 해치고 인류의 존립에 실존적 위협을 가할 수 있다고 경고했다. 이들은 AI가 질병 진단 및 환자 돌봄에서 혁명적 발전을 가져올 수도 있지만 AI의 오류로 인한 피해, 데이터 프라이버시 침해, 건강 불평등 등 부정적 영향을 낳을 가능성이 크다고 짚었다. 이들은 또 AI로 인한 대량실업이 노동자들의 건강에 부정적인 영향을 미칠 수 있다는 점을 언급하면서 “우리는 일자리가 없거나 불필요한 세상에서 사회가 심리적·정서적으로 어떻게 반응할지 알지 못하며 실업과 건강 악화의 연관성을 끊는 데 필요한 정책과 전략에 대해 많이 고민하지도 않는다”고 지적했다. 그러면서 “AI에 기반을 둔 정보시스템이 급격한 발전으로 현실을 왜곡하거나 잘못 표현하면 공중보건에 영향을 주면서 사회의 분열, 갈등을 부추기고 믿음을 파괴함으로써 민주주의를 훼손할 수 있다”고도 경고했다.

AI의 위험성 과장됐다는 지적

프라이버시 및 데이터 보호 전문가인 이바나 바르톨레티는 지난 5월 3일 가디언 칼럼에서 “(AI와 관련해) 일부 심각한 문제들이 있다는 데 동의한다”면서도 “AI가 초래할 묵시론적인 파멸의 공포를 제기하는 것은 옳은 일일까. 내가 보기에는 그렇지 않다”고 말했다. 각국 정부가 AI가 제기하는 문제를 해결하기 위한 노력에 착수했으며, AI 개발자들도 문제를 인지하고 필요한 조치들을 취하고 있다는 주장이다. 백악관은 5월 4일 AI 위협에 대응하기 위해 미국 전역에 25개의 국립 AI 전담 연구소를 설립할 계획이라고 밝혔다. 유럽연합(EU)은 지난달 말 AI 규제법 초안을 발표하고 세부 내용을 논의 중이다. 바르톨레티는 AI에 대한 종말론적 시나리오에 사로잡히는 대신 AI의 장점을 파악하고 건설적으로 활용할 방법을 찾아야 한다고 지적했다. 이어 “무분별한 AI 개발을 지양하고 책임감 있고 민주적인 AI 활용으로 나아가기 위해서는 게임의 규칙과 글로벌 합의가 필수적”이라고 덧붙였다.

‘이코노미스트’는 지난 5월 7일 기사에서 AI 때문에 대량 실업이 발생할 것이라는 예측에는 과도한 부분이 있다고 지적했다. 역사적으로 기술 발전에 의한 일자리 소멸은 예상보다 훨씬 천천히 진행됐다는 진단이다. 예컨대 자동전화교환시스템이 발명된 것은 1892년이지만 미국 전화 교환원의 숫자는 오히려 늘어나 20세기 중반에 약 35만명으로 정점을 찍었고, 1980년대까지도 사라지지 않았다. ‘이코노미스트’는 특히 교사 등 AI에 의한 일자리 피해가 가장 심할 것으로 꼽히는 분야는 공공성이 강해 국가의 규제가 심하기 때문에 AI로 쉽사리 대체되지 않을 것이라고 분석했다.

기존 일자리가 사라지면서 새로운 유형의 일자리가 창출될 수 있다는 점도 고려해야 한다. ‘이코노미스트’는 “미국 내 일자리의 약 60%가 1940년에는 존재하지 않았다”면서 “AI 경제는 오늘날에는 상상조차 할 수 없는 새로운 직업을 창출할 가능성이 높다”고 짚었다.

정원식 국제부 기자 bachwsik@kyunghyang.com