"인간 넘어서는 AI, 경제적 가치 1경달러…강력한 만큼 위험"

월요인터뷰
글로벌 AI 석학 요슈아 벤지오 몬트리올大 교수
기업들 매년 2000억弗 투자
AI, 의학 발전 가장 큰 도움
새로운 약물·치료법 개발 기여
세계 빈곤문제 해결도 기대
인간 멸종 초래할 수도
영화 '터미네이터'와는 달리
AI와 전쟁하면 인간이 패배
'테일 리스크'도 경계해야
수학·컴퓨터·공학 지식만큼
인문학 중요성 더욱 커질 것

요슈아 벤지오 캐나다 몬트리올대 교수는 지난 5일 한국경제신문과의 인터뷰에서 “인공지능(AI)은 50%의 확률로 몇십 년 안에 인간 수준에 도달할 것”이라며 “이런 AI의 경제적 가치는 1경달러(약 1400경원)에 이를 것”이라고 말했다. 김범준 기자

“인간 수준을 넘어서는 인공지능(AI)의 경제적 가치는 1경달러(10 Quadrillion dollars·약 1400경원)에 이를 것입니다.”

요슈아 벤지오 캐나다 몬트리올대 교수는 지난 5일 한국경제신문과의 단독 인터뷰에서 “일각에서는 AI가 인간 수준에 도달하지 못할 것이라고 하지만 50%의 확률로 몇십 년(decades) 안에 이에 도달할 것”이라며 이같이 말했다.

벤지오 교수는 세계 AI 분야의 ‘4대 천왕’으로 불리는 석학이다. 제프리 힌턴 토론토대 교수(노벨물리학상 수상자), 얀 르쿤 뉴욕대 교수와 함께 2018년 컴퓨터 과학계의 노벨상인 ‘튜링상’을 받았다. 한국 기업, 대학과도 다양한 협력을 펼치고 있는 벤지오 교수와 이날 고려대 넥스트인텔리전스포럼(NIF)을 마치고 인천공항으로 향하는 동안 두 시간에 걸쳐 대화를 나눴다. 이 자리에서 예상을 뛰어넘는 속도로 진화하는 AI 시대에 대한 기대와 두려움을 가감 없이 털어놨다.

▷왜 이렇게 AI를 두려워하나요.

“아주 단순한 이유입니다. AI가 강력하기 때문이죠. 인간의 지능을 뛰어넘는 초인공지능의 등장은 인류의 존재를 위협하는 테일 리스크의 위험성도 키울 수밖에 없죠. 낭만적 결론의 영화 ‘터미네이터’와 다른 세계가 열릴 수 있습니다.”

▷AI가 위험할 정도로 강력한가요.

“불과 몇 년 사이 AI는 빠르게 발전했습니다. AI가 인간 수준에 도달하지 못할 것이란 예측도 있지만 저는 50%의 확률로 몇십 년 안에 도달할 것으로 봅니다. 특정 기술에서 인간 수준에 도달하면 그 능력을 활용해 AI 발전이 가속화할 것이고, 초인적인 능력으로 가속이 일어날 가능성이 큽니다.”

▷부작용을 막기 위해 어떤 노력이 필요합니까.

“정부가 개입해야 합니다. AI 개발을 사회에 유익한 방향으로 유도하는 것입니다. 정부가 AI에 대해 더 많은 통제권을 가져야 한다는 뜻입니다.”

▷시장 자율에 맡기는 것이 더 효율적이지 않을까요.

“몇몇 기업에 너무 많은 권한을 넘기는 것은 바람직하지 않습니다. AI는 강력한 만큼 위험하기 때문입니다. 올해 1월 AI 연구자 3000명을 대상으로 한 설문에 따르면 응답자의 약 50%가 ‘미래의 AI 발전이 인간의 멸종과 같은 심각한 재앙을 초래할 가능성’을 묻는 항목에 10% 이상이라고 답했습니다.”

▷인류 멸종은 너무 과한 예상 아닌가요.

“무시할 만한 위험이 아닙니다. 물론 AI가 악용될 가능성이 크지 않습니다. 발생 확률은 낮지만 심각하게 나쁜 사건이 발생할 수 있는 만큼 대비가 필요합니다.”

▷이를 위해 정부의 개입이 필요한 건가요.

“다리를 건설할 때도 그냥 짓지 않죠. 계획을 세우고 계산한 뒤 과학적인 이유로 안전하다는 것을 증명해야 합니다. AI에 대해서도 위험을 평가하는 동일한 작업을 해야 합니다. 특히 AI의 어떤 행동이 허용 가능한지, 허용되지 않는지를 정의하는 것은 민주적, 사회적 결정이죠. 이런 결정을 기업이 하게 해서는 안 되고, 정부가 해야 합니다.”

▷이런 규제 속에서 AI를 개발하면 경쟁에 뒤처질 것이란 우려가 있습니다.

“규제의 목적은 경쟁 환경을 공평하게 해 모든 기업이 최소한의 안전 조치를 취하도록 하는 것입니다. 제약, 교통, 열차, 비행기, 자동차 같은 분야가 더 안전해진 것은 이런 규제 때문입니다.”

▷그 사이 중국 등이 더 빠르게 AI를 개발한다면요.

“민주주의 국가들은 게임에 앞서나가기 위해 연구에 충분히 투자하는 동시에 안전 문제를 해결해야 합니다. 이는 선택의 문제가 아닙니다. 그렇지 않으면 민주주의를 전복하고, 우리에게 위협을 가하며, 새로운 전염병 등을 일으킬 수 있는 문제를 스스로 만들 수 있습니다.”

▷이렇게 위험성을 강조하는 이유가 무엇입니까.

“정부 규제를 이끌어내기 위해서는 대중의 인식이 바뀌어야 하기 때문입니다. 미국에서 이뤄진 설문에 따르면 전체 응답자의 70%가 AI의 부작용을 우려하고 있지만 자기 삶이 바쁘기 때문에 관심을 두지 않습니다. 정부를 움직이기 위해서는 시민들의 인식 개선이 중요하기 때문에 이렇게 세계를 다니며 강연하고 인터뷰하는 것입니다.”

▷AI에 대한 대중의 관심이 필요하군요.

“모든 사람은 AI에 대해 지식을 갖춰야 합니다. AI는 모든 곳에 있고, 우리를 대상으로도 사용될 것이고 우리가 정치적 결정을 내려야 하기 때문입니다. 시민이 AI의 기본 개념과 사회에 미치는 영향을 이해해야 민주적 선택에 참여할 수 있다는 뜻입니다.”

▷AI 발전 속도가 빨라지는 이유는 무엇입니까.

“기업들이 공격적으로 투자하고 있습니다. 매년 1000억~2000억달러가량이 AI에 투자되고 있고, 총투자금액은 1조달러에 가까워지고 있죠. 하지만 인간 수준의 AI 기술이 등장할 때 그 가치가 1경달러에 이를 것으로 예상됩니다. 투자액이 예상 수익의 1만분의 1 수준에 불과한 상황이어서 투자는 더 많이 일어날 것입니다.”

▷AI가 사회에 어떤 영향을 미칠 것으로 봅니까.

“우리가 내리는 선택에 따라 달라지겠지만 모든 분야를 바꿀 것입니다. 강력한 AI를 올바르게 사용한다면 과학과 의학의 발전을 이루고, 기후변화와 싸우며, 세계의 빈곤 문제를 해결하는 데 큰 도움이 될 것으로 봅니다.”

▷특히 어떤 분야에 영향이 클까요.

“의료 분야는 매우 긍정적인 영향이 기대됩니다. 지금은 인간의 몸에 대해 불완전하게 이해하고 있어 다양한 질병이나 문제를 해결하는 방법도 찾지 못하죠. AI를 통해 더 나은 약물과 치료법 등을 알게 된다면 모두에게 큰 도움이 될 것입니다.”

▷AI 시대에 대비하기 위해 어떤 역량을 키워야 합니까.

“협력과 의사소통 능력입니다. AI가 대체할 수 없는 부분이기 때문이죠. AI 연구자 역시 컴퓨터 과학, 수학, 공학뿐 아니라 인문학이 점점 중요해질 것입니다. AI를 설계하고 배포할 때 사회에 미치는 영향을 고려하기 위해 인문학이 매우 중요합니다.”

▷한국은 AI를 비롯한 이공계 인재 유출이 심각합니다.

“캐나다도 비슷한 인재 유출을 겪었고, 이를 해결하기 위해 정부가 AI 연구소를 설립하며 더 많은 교수를 유치했죠. 결국 더 많은 학생이 모이게 됐습니다. 제가 설립한 연구소(MILA)도 정부 지원이 70%에 달합니다. 기업 지원은 30%에 불과하죠. 연구자들은 흥미로운 사람들이 모인 생태계에 남고 싶어 합니다. 이로 인해 인재 유출이 훨씬 줄었습니다.”

 벤지오 교수는…딥러닝 개척한 AI '4대 천왕'

요슈아 벤지오 캐나다 몬트리올대 교수는 인공지능(AI) 분야에서 세계적으로 인정받는 석학이다. 올해 노벨물리학상을 받은 제프리 힌턴 토론토대 교수, 얀 르쿤 미국 뉴욕대 교수와 함께 딥러닝을 개척한 공로로 2018년 ‘컴퓨터과학의 노벨상’이라고 불리는 튜링상을 받았다. 여기에 앤드루 응 스탠퍼드대 교수까지 더해 세계 AI 분야의 ‘4대 천왕’으로 불린다.

AI 4대 천왕 중 힌턴 교수와 함께 AI에 대한 규제를 주장하는 신중론자다. 책임 있는 AI 기술 개발을 위한 몬트리올 선언에도 기여했다. AI 기술이 사회에 미칠 영향을 면밀하게 검토해야 한다는 입장이다. 정부와 국제적 협의를 통해 AI에 대한 규제가 필요하다고 주장한다.

특히 그는 AI에 자기보존의 목표를 심어줘서는 안 된다고 강조했다. 이는 사람이 AI를 끌 수 없게 되는 것을 의미하기 때문이다. 벤지오 교수는 “연구자 중 1% 정도는 초지능에 의한 지배가 좋다고 생각한다”며 “하지만 자기보존을 목표로 삼는 순간 AI는 인간을 통제하거나 제거할 필요가 생기는 만큼 허용돼선 안 된다”고 주장했다. 기계와 경쟁한다면 결국 인간이 질 것이라고도 했다. 그는 “‘터미네이터’는 매우 낙관적인 영화”라며 “실제로 인간보다 똑똑한 기계와 전쟁을 치른다면 인간이 질 가능성이 크다”고 말했다.

벤지오 교수는 2019년 뛰어난 학문적 업적을 이룬 공로로 캐나다 최고의 영예인 킬람상을 수상했고, 2020년에는 영국왕립학회 펠로로 선정됐다. 2022년에는 h지수(h-index)가 가장 높은 과학자로 손꼽히기도 했다. h지수는 연구자의 연구 생산성과 영향력을 나타내는 지표다. 

■ 약력

△1964년 프랑스 파리 출생
△1991년 캐나다 맥길대 컴퓨터공학 박사
△1993년 몬트리올 머신러닝연구소(MILA) 설립
△2002년~현재 몬트리올대 컴퓨터과학과 교수
△2018년 미국계산기협회 튜링상 수상
△2020년 영국왕립학회 펠로 선정

강영연 기자 yykang@hankyung.com