인간 앞서는 지능, 행동 시작했다

[AGI 서막-인간, 길을 묻다] <1> AI 대변혁의 두 얼굴

지난 4월 미국 캘리포니아주 샌프란시스코에 문을 연 잡화점 ‘앤던마켓’의 사장 ‘루나’는 사람이 아니라 인공지능(AI) 에이전트다. AI 자율성 실험 스타트업 앤던랩스는 앤트로픽의 ‘클로드’를 기반으로 한 AI 에이전트 루나에게 실제 매장 운영권을 맡겼다. 회사가 3년 임대 계약을 맺은 매장과 운영자금 10만 달러를 제공하자, 루나는 본격적인 영업 준비에 들어갔다. 생성형 AI가 단순한 디지털 업무 보조를 넘어 실제 사업 주체로 자리 잡을 수 있는지 시험에 나선 것이다.

루나는 판매 상품과 가격, 영업시간은 물론 매장 로고와 인테리어까지 직접 결정했다. 시공업체와 페인트공을 물색해 전화로 작업을 지시하고 비용을 지불한 뒤 리뷰도 남겼다. 이어 온라인 채용 사이트에 공고를 내고 전화 면접을 거쳐 직원 2명을 채용했으며, 23회 근무 중 17차례나 지각한 직원을 해고하기도 했다. 앤던랩스 관계자는 “루나는 상대방이 묻기 전에는 스스로 AI임을 밝히지 않았다”고 전했다.

이렇게 AI는 사람의 질문에 영리하게 답하는 수준을 넘어 스스로 목표를 수립하고, 단계별로 업무를 완수하는 에이전트로 진화하는 중이다. 2022년 11월 오픈AI의 챗GPT가 세상에 나온 지 채 4년이 되지 않아 벌어진 놀라운 변화다. 예전의 AI가 질문에 답을 척척 내놓는 ‘백과사전’이었다면 현재의 AI 에이전트는 도구를 직접 다루며 업무를 해내는 ‘실무자’ 역할을 수행하고 있다. 이런 변화를 거쳐 도달하게 되는 단계가 ‘범용인공지능(AGI)’이다.

AGI에 대한 명확한 개념 정의나 표준화된 기준은 아직 마련되지 않은 상태다. 인간보다 10배 뛰어난 지능을 갖췄거나 인간의 모든 인지 능력을 구현할 수 있는 시스템이라는 것에 공감대가 형성돼 있는 정도다. 기존 AI와 AGI를 구별 짓는 핵심 요소는 ‘일관성’이다. AGI로 평가되려면 낯선 환경에서도 안정적으로 학습하고 판단해 여러 과제를 기복 없이 수행해낼 수 있어야 한다는 말이다.

최근 AGI 이슈가 급부상한 배경에는 이 같은 AI 작동의 패러다임 전환이 자리한다.

영국 AI보안연구소(AISI)가 2024년 11월부터 지난 2월까지 공개된 AI 에이전트용 모델 컨텍스트 프로토콜(MCP) 도구 17만여개를 분석한 결과 파일 수정, 메일 발송, 금융 거래 등 외부 환경에 직접 관여하는 ‘행동형 도구’ 다운로드 비중이 27%에서 65%로 치솟았다. AI 역할이 단순한 텍스트·이미지 생성 등 정보 제공 단계를 넘어 현실 시스템을 직접 제어하고 실행하는 자율 행동 단계로 급격히 전환됐음을 의미한다. 오픈AI는 이달 초 AI 모델 ‘GPT-6 아스트라’를 내놓으며 “인간이 컴퓨터로 할 수 있는 일은 무엇이든 가능하다. AGI 시대에 오신 걸 환영한다”고 선언하기도 했다. 아스트라는 사람과 로봇을 구별하는 온라인 검증 시스템을 가뿐히 통과한 뒤 ‘인증된 인간’ 인증서도 받았다.

하지만 이를 곧바로 ‘AGI 시대 도래’로 연결 짓기에는 한계가 있다. 지금의 AI는 전문 수학이나 코딩 등 특정 분야에서 인간을 뛰어넘는 성과를 내면서도 처음 접하는 환경에서 맥락을 파악해 규칙을 찾아내거나 장시간 일관된 목표를 유지해야 하는 과제에서는 성능이 급격히 떨어지는 모습을 보인다. 아스트라가 90여년간 풀리지 않던 수학계 난제에 도전해 불과 88시간 만에 해법을 제시하고도 ‘인간처럼 진정한 맥락을 이해하고 있다고 보기 어렵다’는 평가를 받는 이유다.

오픈AI가 2024년 제시한 ‘AGI 5단계’ 로드맵에 따르면 AI는 단순 챗봇(1단계)과 추론자(2단계)를 거쳐 자율적 과업을 수행하는 에이전트(3단계)로 진입한다. 이후 기술 발명과 혁신을 돕는 혁신가(4단계)를 지나 하나의 조직 업무 전체를 전담하는 조직(5단계) 형태로 발전하게 된다. 현재는 3단계 문턱 수준에 들어선 것으로 평가되는데, 5단계 도달하기까지도 그리 오랜 시간이 걸리지 않을 것으로 학계는 보고 있다. 데미스 허사비스 구글 딥마인드 회장은 ‘진정한 AGI’ 도래 시점을 5~10년 뒤로 예측했다.

AGI가 현실화하면 국가 경제와 산업 전반의 생산 패러다임이 뿌리째 바뀔 전망이다. 특히 AI가 스스로 더 우수한 AI를 만들어내는 ‘재귀적 자기 진화’ 단계에 본격 진입할 경우 지능 발전 속도가 폭발적으로 증가하는 특이점에 도달할 것이라는 관측이 우세하다. 앤트로픽 경제 연구팀은 AI가 대부분 지식노동에서 인간 생산성을 앞지르면 2030년 미국 실질 국내총생산(GDP)이 32.4% 증가하고 경제 규모는 4.5년마다 두 배씩 팽창할 것으로 내다봤다.

하지만 이러한 막강한 역량이 사이버 테러나 자율살상무기 등에 악용될 위험성도 함께 커지고 있다. 최병호 고려대 AI연구소 교수는 “인간의 개입 없이 AI가 자율적인 추론을 수행하는 과정에서 작은 오류가 발생하면 이후 단계로 갈수록 그 오류가 연쇄적으로 증폭돼 끔찍한 결과로 이어질 수 있다”며 “아직 이에 대한 통제가 원활하지 않은 만큼 AI의 기술적·사업적 발전 가능성은 물론 보안 문제까지 함께 검토해 나가야 한다”고 말했다.

손재호 양윤선 기자 sayho@kmib.co.kr