인류는 인공지능의 '사냥감'이 되지 않을 자신이 있는가?[과학을읽다]

-생활 깊숙이 파고 들고 있는 AI와 인류가 해결해야 될 과제

[아시아경제 김봉수 기자] 인공지능(AI)에 "인간의 고통을 없애라"라는 임무를 부여했다. 그랬더니 AI는 그 방법 중 하나로 "인간을 없애라"라는 길을 제시했다. 2019년 한국과학기술원(KAIST)의 연구 결과였다. AI는 오직 목표 달성만을 위해 인간의 존엄성, 생명·윤리에 대해 고려하지 않는 특성을 갖고 있기 때문이다. AI가 인류를 말살하는 영화 ‘터미네이터’의 설정이 황당한 얘기만은 아니라는 것을 실제로 보여준 연구였다. 이미 실생활 깊숙이 파고 들어 가고 있는 AI, 우리는 과연 AI의 사냥감이 되지 않을 수 있을까.　

◇AI가 ‘희생양’을 고른다

세계 자동차업계는 수년 안에 4레벨, 즉 완전자율주행차 상용화에 들어갈 예정이다. 잘 달리고 있던 자율주행차 앞에 갑자기 사람들 몇 명이 뛰어들었다. 도저히 사고를 피할 수 없는 상황이라면 AI는 어떤 선택을 할까. 운전자를 살리기 위해 보행자를 치고 지나가야 할까. 아니면 운전자의 부상 위험을 무시한 채 보행자를 보호하기 위해 핸들을 꺾어야 하나. 또 보행자가 흑인, 백인, 황인, 노인, 청소년, 어린이, 여성, 남성 등 다양하게 섞여 있다면 어느 사람을 들이받아야 할까. 어느 누구도 이런 상황에서 제대로 된 가치 판단을 할 수 없을 것이다. AI가 일상화되면 많은 분야에서 이 같은 상황에 처할 수 있다.

전문가들은 △사회적 합의를 통한 기준 마련 △권위적인 기관에 의한 판단 △차주가 원하는 대로 선택하기 △랜덤으로 설정하기(기계가 알아서 하기) 등 4가지 해법이 있을 수 있다고 본다. 그러나 홍성욱 서울대 생명공학부 교수는 지난 9월 한국과학기술단체총연합이 개최한 포럼에서 "이 중 어느 하나로도 합의가 되지 않을 것"이라며 "절체절명의 위기 상황에서 AI가 어떻게 행동해야 할지 사회 전체적으로 신뢰의 문제가 생길 수 있다"고 말했다.

2016년 미국의 탐사 전문 매체 ‘프로퍼블리카’는 미국 법원에서 사용하는 AI 재판 지원시스템 컴파스(COMPAS)가 인종차별을 하고 있다고 보도했다. 컴파스는 피고인의 범죄 기록 등 데이터를 활용해 재범 가능성을 예측하는데, 흑인이 백인보다 두 배나 높다는 결과를 내놓았다. 그러나 실제 현실에서는 백인 47.7%, 흑인 28%로 거꾸로였다. 미국의 대도시 경찰에서 순찰 코스 선정 등 범죄 예방을 위해 많이 사용한 ‘프레드폴’ 알고리즘도 비슷한 논란을 빚었다. 2017년 게이 판정 AI 알고리즘, 2018년 아마존의 면접 알고리즘 등도 각각 성소수자, 여성 차별 문제를 지적당했다. 전 세계 AI 알고리즘 프로그래머의 50%가 백인 남성이기 때문이란 지적이 나오는 등 아직까지 별다른 해법이 도출되지 않고 있다.

◇‘초지능(super-intelligence)’의 등장

최근 패스트푸드 매장 등에 우후죽순 등장한 키오스크(자동주문·결제 시스템)는 편리함에도 불구하고 수만명의 계산원들이 직장을 잃게 했다. 예전 같으면 다른 직장으로 쉽게 갔지만 AI 시대 들어 달라진 것은 기술 변화 속도가 너무 빨라 전직도 쉽지 않다. AI가 탑재된 로봇들로 대체되기 쉬운 단순 육체노동·사무직들이 특히 취약한 것으로 지적되고 있다. 홍 교수는 "이들의 직업은 이른 시일 내에 AI로 대체될 것으로 보인다"면서 "새 직장이 생기기 전에 기존의 일자리들이 없어질 가능성이 높은 만큼 이들에 대한 재교육은 사회적 차원에서 준비되어야 한다"고 말했다.

닉 보스트롬 옥스퍼드대 철학과 교수는 현재의 AI들은 단순한 머신 러닝 수준이지만 2030~2040년대 들어 20살 정도 청년 수준의 지능을 갖춘 ‘인공 일반 지능(AGI)’ 시대를 맞으면 사정이 달라질 것으로 예측하고 있다. 인간의 컨트롤 없이도 인공 초지능(ASI)이 빠르게 등장하고, 이를 막는 것은 불가능하다. ASI는 인간이 중요시 하는 행복, 삶의 즐거움, 음식, 성관계, 자기 발전, 취미, 영성 등에 대한 관심이 없다. 자비, 겸손, 희생 등 가치들도 안중에 두지 않는다. 자기 보존과 효율 극대화에만 유일하게 관심이 있을 뿐이다. 미국의 미래학자 레이 커즈와일은 이를 ‘특이점(Singularity)’이라고 규정하고 2045년에 도래할 것으로 예상했다.

이와 함께 살상 무기에 AI 알고리즘을 활용하는 것도 논란이 되고 있다. 정부 기관이나 기업들이 AI를 연구한다며 고객들의 얼굴 정보를 마음대로 사용하는 등 개인정보보호 문제나 AI를 악용해 범죄의 수단으로 삼는 등의 문제점도 있다. 홍 교수는 "기술적 문제 해결과 제도적 보완이 필요하며, 지나친 낙관이나 환상은 금물"이라며 "기술의 발전을 예의 주시하면서 시민들이 ‘알고리즘 시민권’을 누릴 수 있도록 주체적이고 자발적으로 역할을 할 수 있게 해야 한다"고 말했다.

김봉수 기자 bskim@asiae.co.kr