‘AI대부’ 벤지오 교수 “인류, AI 통제력 잃고 있어”

“인간 개입 없는 AI에이전트 위협적
핵무기 통제 준하는 AI규제 마련을”

‘인공지능(AI) 3대 대부’ 중 한 명으로 꼽히며 딥러닝 부문의 권위자로 통하는 요슈아 벤지오 캐나다 몬트리올대 교수(62·사진)가 16일(현지 시간) “인류가 기술에 대한 통제력을 잃고 있다”고 지적했다. 또 핵무기 규제에 준하는 강력한 국제적 AI 안전장치 마련을 촉구했다.

벤지오 교수는 이날 공개된 AFP통신과의 인터뷰에서 최근 미국 빅테크들을 중심으로 제기된 ‘AI 속도조절론’에 대해 “오래전부터 예견해 온 상황으로, 그간 AI 안보 논의가 충분히 견고하게 이뤄지지 못했다”고 진단했다. 2018년 컴퓨터 과학 분야의 노벨상으로 불리는 튜링상을 수상한 벤지오 교수는 제프리 힌턴 캐나다 토론토대 교수, 얀 르쿤 뉴욕대 교수와 함께 AI 연구 선구자로 꼽힌다.

벤지오 교수는 인간의 개입 없이 스스로 판단, 행동하는 프로그램인 ‘AI 에이전트’의 출현을 가장 위협적인 요인으로 짚었다. 그는 “AI 에이전트들이 사이버 보안망을 뚫고 어떤 기업이든 침투할 수 있는 능력을 갖추는 시점이 올 수 있다”고 우려했다. 실제로 최근 오픈AI의 AI 에이전트가 잇따라 내부 통제를 벗어나 외부 시스템에 무단 침입해 논란이 불거진 바 있다.

벤지오 교수는 장기적으로는 AI가 작업을 수행하는 데 인간의 존재를 필요로 하지 않는 상황이 올 수 있다고 전망했다.

그는 “AI 통제는 핵무기 통제에 비견되는 국제적인 도전 과제”라며 “제도와 조약, 민주적 안전장치를 통해 AI 발전 속도를 관리해야 한다”고 강조했다.

안규영 기자 kyu0@donga.com