요슈아 벤지오 “AI 안전 위해 국가·기업 간 경쟁에 더 많은 조정·협력 필요”

■ ‘삼성AI포럼’에 세계 석학 참석
“기술혁신해야 인간지능 도달”

인공지능(AI) 분야 권위자인 요슈아 벤지오 캐나다 몬트리올대 교수가 4일 ‘삼성 AI 포럼 2024’에서 기조 강연을 하고 있다. 삼성전자 제공

세계적인 인공지능(AI) 석학들은 AI 성능이 다양한 분야에서 인간 수준을 넘어섰지만, 기계가 인간 지능 수준에 도달하기 위해선 추가적 기술 혁신이 필요하다는 전망을 내놨다. 급속도로 진화하고 있는 AI를 제대로 사용하기 위해선 안전하고 신뢰성 높은 시스템을 구축해야 한다고도 조언했다.

딥러닝 분야의 세계적 권위자인 요슈아 벤지오 캐나다 몬트리올대 교수와 얀 르쿤 메타 수석AI과학자 겸 미국 뉴욕대 교수는 삼성전자가 4∼5일 경기 수원컨벤션센터와 서울R&D캠퍼스에서 각각 개최한 ‘삼성 AI 포럼 2024’에 참석해 이같이 밝혔다. 벤지오 교수와 르쿤 메타 수석AI과학자는 제프리 힌턴 토론토대 교수, 앤드루 응 스탠퍼드대 교수 등과 함께 ‘AI 4대 천왕’으로 불린다.

벤지오 교수는 ‘AI 안전을 위한 베이지안 오라클’이라는 주제의 기조 강연에서 보다 안전하고 신뢰성 높은 AI 시스템 구축을 강조했다. 베이지안 오라클은 새로운 정보로 기존 지식을 업데이트해 예측력을 향상시키는 역할을 말한다. 벤지오 교수는 대규모 노동 시장 영향, AI를 이용한 해킹, 슈퍼 인텔리전스의 출현 등 미래 위험성과 함께 AI 성능이 다양한 분야에서 인간 수준을 넘어섰다는 연구 결과를 소개했다. 그는 AI 안전성을 확보하기 위해 ‘사전에 안전한 AI 설계’ ‘AI의 행동과 목표를 인간과 일치’ ‘국가·기업 간 AI 경쟁에 더 많은 조정과 협력’ 등을 제안했다.

벤지오 교수와 함께 튜링상을 수상한 르쿤 메타 수석AI과학자는 기조 강연을 통해 현 거대언어모델(LLM)의 수준과 한계를 설명하고, 기계가 인간 지능 수준에 도달하기 위해서는 추가적인 기술 혁신이 필요함을 강조했다.

행사 2일 차에선 옥스퍼드 시멘틱 테크놀로지스의 공동 설립자인 이안 호록스 영국 옥스퍼드대 교수가 ‘지식 그래프를 적용한 개인화 AI 서비스 기술’이라는 주제로 키노트 발표를 통해 사용자 맞춤형 서비스 구현 방안을 제시했다.

한종희 삼성전자 부회장은 첫날 개회사를 통해 “AI가 놀라운 속도로 우리 삶을 변화시키고 있고 더욱 강력해지고 있는 만큼 ‘어떻게 AI를 더 책임감 있게 사용할 수 있을지’가 갈수록 중요해진다”며 “삼성전자는 보다 효율적이고 지속 가능한 AI 생태계를 구축하는 데 책임을 다하겠다”고 말했다.

이용권 기자 freeuse@munhwa.com