유발 하라리 "AI, 글로벌 금융위기 초래할 수도"

"인간이 이해 못하는 금융도구 창조 우려"
법보다 위험에 신속 대응할 규제기관 설립 필요

"인공지능(AI)이 AI만 이해할 수 있고 사람은 아무도 이해할 수 없는 새로운 금융 도구를 창조하기 시작하면 어떤 일이 벌어질까".

이스라엘 출신의 세계적 석학인 유발 하라리 히브리대 교수가 AI 기술이 글로벌 금융위기와 같은 재앙을 불러일으킬 수 있다고 경고했다.

10일(현지시간) 영국 가디언에 따르면 하라리 교수는 최근 이 매체와의 인터뷰에서 "금융계는 오직 데이터만으로 이뤄져 있기 때문에 AI에 이상적으로 적합한 분야"라며 이같이 밝혔다.

그는 2008년 글로벌 금융위기가 부채담보증권(CDO)처럼 극소수만 이해하고, 적절히 규제되지 않은 금융상품 때문에 초래됐다고 평가하며 AI가 금융 시스템에 더 큰 통제권을 가지는 상황을 우려했다.

하라리 교수는 "AI는 스스로 결정하고 새로운 아이디어를 만들어내며, 학습하고 개발할 수 있는 최초의 기술"이라며 "인류 역사상 기존의 모든 기술과 다르다"고 말했다. 이어 "인간, 심지어 그 기술을 창조한 인간조차 (AI의) 모든 잠재적 위험성과 문제점을 예상하기 극히 어렵다"며 수많은 위험한 시나리오가 있다고 봤다.

그는 "개별 시나리오 각각의 가능성은 상대적으로 작지만, 모두 합하면 인류 문명의 생존을 해칠 수 있는 위협"이라고 지적했다.

AI 안전을 위해서는 법적 규제보다는 새로운 기술혁신에 신속히 대응할 수 있는 규제기관 설립에 초점을 둬야 한다고 강조했다. 하라리 교수는 "(AI의) 모든 위험성과 문제점을 사전에 예측하고, 이에 대한 대응법을 사전에 만들 수 없다"며 "위험이 생기면 이를 식별하고 대응할 수 있는 강력한 규제기관을 최대한 빨리 만들어야 한다"고 주장했다.

지난주 영국에서 개최된 세계 첫 AI 안전 정상회의에 대해서는 "매우 중요한 진전"이라고 평가했다. 그는 "유럽연합(EU), 영국, 미국뿐 아니라 중국도 (블레츨리) 선언에 서명했다는 점이 가장 고무되고 기대된다"며 "내 생각에는 매우 긍정적인 신호다. AI의 가장 위험한 잠재력을 억제하는 것은 세계적 협력 없이는 극히 어려울 것"이라고 덧붙였다.

권해영 기자 roguehy@asiae.co.kr