“인간 넘어선 AI, 기업협력으로 안전 확보”

제 8회 삼성AI포럼 개최
‘AI 4대 천왕’ 벤지오·르쿤 강연
글로벌 AI 안전·신뢰 확보 위해
국가와 기업간 협력 중요 강조

요슈아 벤지오 캐나다 몬트리올 대학교 교수가 ‘삼성 AI 포럼 2024’에서 기조 강연을 하고 있다. [삼성전자 제공]

삼성전자가 이른바 ‘인공지능(AI) 4대 천왕’으로 불리는 글로벌 석학들을 초청해 ‘삼성 AI 포럼 2024’를 열고 AI 전략 및 미래를 논의했다. 특히 딥러닝 분야의 세계적 권위자로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수는 인간의 수준을 넘어선 AI의 안전을 확보하려면 국가 및 기업 간 협력이 중요하다고 강조했다. ▶관련기사 5면

올해로 8회째를 맞은 삼성 AI 포럼은 4~5일 경기도 수원컨벤션센터와 서울 서초구 삼성전자 서울R&D캠퍼스에서 이틀간 진행됐다.

첫 날에는 삼성전자 SAIT(옛 삼성종합기술원) 주관 하에 ‘인공지능과 반도체 기술을 활용한 지속 가능한 혁신 방안 모색’을 주제로 포럼이 열렸다. 참석자들은 차세대 반도체 개발 및 생산 역량을 강화할 수 있는 AI와 컴퓨터 공학(CE) 분야 기술 연구 성과를 공유하고 향후 발전 방향에 대해 논의했다.

한종희 삼성전자 대표이사 부회장은 개회사에서 “AI는 놀라운 속도로 우리의 삶을 변화시키고 있고 더욱 강력해짐에 따라 ‘어떻게 AI를 더 책임감 있게 사용할 수 있을지’가 갈수록 중요해진다”면서 “삼성전자는 보다 효율적이고 지속 가능한 AI생태계를 구축하는데 책임을 다할 것”이라고 밝혔다. 이번 포럼의 기조강연을 맡은 요슈아 벤지오 교수도 ‘AI 안전을 위한 베이지안 오라클(Bayesian Oracles for AI Safety)’이라는 주제의 기조강연에서 보다 안전하고 신뢰성 높은 AI 시스템 구축을 강조했다.

베이지안 오라클은 고급 통계 모델인 베이지안 방법론을 이용해 정보를 수집·분석하는 역할을 한다. 또 새로운 정보에 기반한 지식 업데이트로 예측력도 향상시킨다. 이를 통해 복잡하고 변동성이 큰 환경에서 효과적인 의사결정을 지원한다.

벤지오 교수는 이날 AI 성능이 다양한 분야에서 인간 수준을 넘어섰다는 연구 결과를 소개하며 AI의 미래 위험성을 중점적으로 설명했다. 그러면서 “AI의 안전을 확보하기 위해 AI가 위험한 행동을 하지 않도록 사전에 안전하게 설계하고 AI의 행동과 목표를 인간과 일치시켜야 하며 국가와 기업 간의 AI 경쟁에 더 많은 조정과 협력이 필요하다”고 역설했다. ☞5면으로 계속

김현일 기자

joze@heraldcorp.com