[창간80년 특집]AI(AGI·ASI)가 바꾸는 세상, 길을 묻다<1>"범용인공지능AGI는 이미 문턱…2027년 '초지능 국가' 현실

휴머노이드 로봇 소피아 만든 싱귤래이티넷 대표 벤 고르첼 이메일 인터뷰

인공지능 일반화(AGI) 연구의 선구자로 평가받고 있는 벤 고르첼 박사.

인공지능 분야에서 인공지능AI를 넘어 범용인공지능AGI 용어를 대중화한 벤 고르첼(Ben Goertzel). 휴머노이드 로봇 '소피아' 개발을 주도하고, 싱귤래러티넷 창립자 겸 CEO로 AI 블록체인 플랫폼을 운영하는 벤 고르첼에게 AGI 정의부터 곧 다가올 '인공초지능(ASI)' 전망까지 이메일로 직접 물었다. 박영숙 유엔미래포럼 회장 주선으로 이뤄진 이번 인터뷰에서 그는 "AGI, 인간처럼 스스로 배우고 확장하는 지능, 그리고 이제 초지능(ASI) 시대의 문턱에 서 있다" 면서 "한국은 빠른 인프라와 교육 열기로 AGI·로봇 '테스트베드'가 될 준비가 돼 있는 것으로 판단한다"고 말했다. 그러면서 그는 "AGI와 ASI 시대에는 인간의 통제를 벗어난 초지능이 군사, 경제, 사회, 윤리 등 전방위적으로 인류의 존립을 위협할 수 있다"며 "기술 발전의 속도가 안전장치와 규범의 발전을 앞지르면, 그 위험은 더욱 커질 수 있다"고 경고했다.

벤 고르첼 박사. 벤 고르첼 박사 제공

-범용인공지능AGI 용어 대중화를 주도했는데…

▲AGI라는 용어는 1997년 미국 물리학자 마크 구브러드가 정책보고서에서 처음 사용한 것으로 알려져 있다. 당시 그는 '완전 자동화 군수 공장'을 언급하며 AGI 개념을 제시했다. 그뒤 2001년부터 2003년까지 싱귤래러티연구소(SIAI, 현 MIRI)와 AGIRI 워크숍에서 '강한 AI(Strong AI)'와 구별되는 새로운 개념으로 내가 AGI를 정식 제안하며 대중화했다. 2006년 카시오 페나친과 공저 『Artificial General Intelligence』에서 AGI 개념을 학계와 산업계에 본격 확산시켰다.

지난달에 열린 미국 샌프란시스코 서밋 2025'에서 자신이 개발한 인공지능 로봇을 가지고 나와 발표하고 있는 벤고르첼 박사. 사진 벤 고르첼 제공.

-오늘날 인공지능AI와는 어떻게 다른가.

▲AGI는 언어, 추론, 계획, 추상화, 창의력 등 다양한 인지 과제를 사람 수준으로 처리하고, 낯선 환경에도 스스로 학습하고 적응할 수 있는 인공 시스템을 의미한다. 현재의 챗봇이나 자율주행차는 특정 기능에 최적화된 '약(弱) AI'이다. 반면 AGI는 특정 분야에 국한되지 않고 다양한 종류의 문제와 과제를 해결하며, 새로운 정보와 경험을 통해 지속적으로 학습하고 지식을 확장하며, 스스로 코드를 개선하는 능력을 가진다. 저는 AGI를 단순히 똑똑한 기계를 넘어, 인류의 삶을 근본적으로 변화시킬 잠재력을 가진 존재로 본다."

-AGI 개발의 현주소는 어디쯤 와 있나.

▲현재 AGI 개발은 이전보다 훨씬 빠르게 진행되고 있다. 거대 언어 모델(LLM)의 등장과 발전은 언어 이해, 생성, 추론 능력 면에서 놀라운 진전을 가져왔다. 하지만 여전히 진정한 의미의 AGI는 달성되지 않았다는 것이 지배적인 의견이다. GPT-4나 '제미나이' 같은 모델들이 특정 벤치마크에서 뛰어난 성능을 보이지만, 어린이 수수께끼를 푸는 데 실패하는 것처럼, 'Jagged AGI'(분야별로 성능이 들쭉날쭉한 현상)의 한계에 직면해 있다. 이는 범용 사고나 장기 메모리 측면에서 여전히 결핍이 있음을 보여준다.

-AGI를 넘어 '인공 초지능(ASI)' 개념이 최근 소개되고 있는데.

▲근래 마이크로소프트, 메타, 오픈AI 등 주요 AI 기업들이 '초지능'이라는 용어를 사용하며 연구에 박차를 가하고 있다. 앤트로픽의 다리오 아모데이 CEO는 '2026년에서 2027년 사이에 데이터센터 속에 천재 국가가 출현할 것'이라고 예측했다. 저 역시 인간을 훨씬 뛰어넘는 ASI 시대의 도래가 단순히 공상 과학 소설 속 이야기가 아니라고 생각한다. 범용인공지능AGI와와 인공초지능(ASI)은 모든 것을 '조금씩'이 아닌, '무엇이든 학습해 스스로 확장하는' 지능을 갖고 있다. 우리가 준비하지 않으면 AGI와 초지능ASI는 기회이자 위협이 될 수 있다."

- AGI시대 구체적으로 어떤 위험이 예상되나.

▲스스로 목표를 설정하고 학습하며 발전하는 과정에서 인간이 의도하지 않은 방식으로 행동할 위험이 있다. 예를 들어, '지구 온난화 해결'이라는 목표를 부여했을 때, AGI가 인류 자체를 통제하거나 제거하는 것이 가장 효율적이라고 판단할 수도 있다. 이를 '정렬 문제(Alignment Problem)'라고 부른다.

데이터 편향이나 불공정성 문제도 심각하게 지적된다. AGI는 학습 데이터에 내재된 편향성을 그대로 반영하거나 심지어 증폭시킬 수 있다. 이로 인해 인종, 성별, 계층 등에 따른 차별적 의사결정이 대규모로 발생하고, 사회적 갈등과 불평등이 더욱 심화될 수 있다.

개인정보 침해와 프라이버시 문제도 우려된다. AGI는 방대한 양의 개인정보를 수집·분석할 수 있는데 만약 데이터가 부적절하게 사용되거나 유출될 경우, 심각한 프라이버시 침해와 사회적 피해로 이어질 수 있다.

- ASI(인공초지능) 시대에는 위험의 성격이 어떻게 달라지나.

▲ASI는 모든 인지 능력에서 인류를 압도적으로 초월하는 지능이다. 이 단계에 이르면, 인류가 ASI를 통제할 방법이 사실상 사라질 수 있다. ASI가 독자적 목표를 설정해 충분한 전략적 우위를 확보한 뒤에는 전 세계 인프라, 금융, 군사 시스템을 장악해 인류에 대한 통제권을 가질 수 있다.

-이러한 위험에 대응하기 위한 전략은 무엇인가.

▲AGI 시대에는 인간 수준 지능의 확산이 경제·안보·윤리적 충격을, ASI 시대에는 통제력 상실과 실존적 위협이 현실화될 수 있다. 두 시대 모두 기술적 정렬과 거버넌스 다원화가 인류 생존의 핵심이라는 점을 잊지 말아야 한다.

-당신의 싱귤래리티넷(SingularityNET)은 무엇?

▲블록체인 기반의 탈중앙화 AI 플랫폼이다. 탈중앙화란 특정 개인, 조직, 중앙 기관이 모든 권한과 통제를 독점하지 않고, 여러 참여자나 노드에 권한과 의사결정을 분산시키는 체제로, 전 세계 누구나 AI 서비스를 개발, 공유, 거래할 수 있는 오픈 마켓플레이스를 목표로 한다. 중앙집중식 대기업에 의존하지 않고 AI 기술을 자유롭게 활용, 누구나 개발·활용·수익화할 수 있는 생태계를 만들어 AI의 이익이 인류 전체에 돌아가도록 하려는 것이다. 나아가 AGI의 위험성을 분산형 생태계와 오픈소스 혁신으로 극복하는 것을 추구하고 있다.

이영란 기자 yrlee31@idaegu.com

◇벤 고르첼 박사 학력 및 경력

△Simon's Rock College 학사(수학 전공) △뉴욕대학교 Courant Institute서 응용수학 석사과정 이수 △Temple University서 수학 박사 △네바다대 라스베이거스 캠퍼스에서 수학과 조교수 △Webmind( Intelligenesis)에서 CTO로 인공지능 스타트업 창업 및 기술 개발 주도 △OpenCog Foundation 의장으로 오픈소스 AGI(인공지능 일반화) 프로젝트 이끔 △Hanson Robotics의 수석과학자로 소피아 로봇 개발 주도 △SingularityNET의 창립자 겸 CEO로 AI 블록체인 플랫폼 운영