영화 ‘어벤저스’로 살펴본 선한 AGI, 악한 AGI

일반 인공지능 의미하는 AGI
생성형 AI 개발과 함께 논란
딥마인드 AGI 정의 관련 논문 발표
“AGI는 단순 프로그램 아니야”

어벤저스의 울트론. 나쁜 AGI의 전형적인 모습

샘 올트먼 오픈AI CEO의 퇴출과 함께 ‘인공 일반 지능(AGI· Artificial General Intelligence)’에 대한 관심이 높아지고 있다. 오픈AI는 “AGI의 출현에 대비해 인류를 위해 AI를 연구한다”라는 목적으로 2015년 설립된 비영리단체다. 기업의 생존과 발전을 중시했던 올트먼은 ‘선한 AGI’ 개발을 추구하는 또 다른 오픈AI 공동창업자인 일리아 수츠케버와 갈등을 빚게 됐고 결국 이 과정에서 이사회로부터 축출당했다.

AGI는 지난해 챗GPT 출현 이후 가장 자주 언급되는 용어 중 하나로 꼽힌다. AGI는 AI가 인간과 동등하거나, 필적할만한 지능을 갖춘 것을 뜻하는데, 쉽게 이야기해 영화 ‘아이언맨’에 등장하는 개인 비서 ‘자비스’를 떠올리면 이해가 쉽다.

자비스는 자신을 만든 토니 스타크의 명령에 따라 움직이지만 스스로 판단하고 분석할 줄 아는 능력을 갖추고 있다. ‘의지’, ‘자의식’ 등을 가지고 있는 셈이다. 단지 토니 스타크의 명령에 따라 움직이는 데서 그치지 않고 종합적인 상황 판단 능력이 가능하다. 가령 토니 스타크가 에번저스1에서 치타우리 족의 우주선을 향해 핵미사일을 던질 때, 토니 스타크는 자신이 죽을 것이라 생각한다. 이때 자비스는 “포츠에게 전화를 연결할까요?”라며 스타크가 인생의 마지막에 통화하고 싶은 사람이 누구일지 판단해 실행한다.

AGI가 자의식을 갖고 행동하지 않더라도 이를 사용하는 사람에 따라 선과 악이 갈리기도 한다. 이는 영화 ‘스파이더맨’의 예로 확인할 수 있다. 영화 스파이더맨 파프롬홈에는 자비스의 후속 AI인 ‘프라이데이’가 등장한다. 프라이데이는 피터(스파이더맨)의 목소리를 인식해 활성화되는데, 이때만 해도 피터는 ‘선한 AGI’로 활용한다. 하지만 그가 빌런 ‘미스테리오’에게 프라이데이의 권한을 넘겼을 때, 프라이데이는 더 이상 선한 AGI가 아닌 악한 AGI가 되어 세상에 영향을 미치게 된다.

선한 AGI의 대표적인 인물, 비전

공상과학(SF) 영화 속 설정이지만 AI의 발전을 우려하는 많은 사람은 이처럼 AGI가 악하게 사용되는 것을 경계한다. 테슬라 CEO 일론 머스크는 물론 올트먼과 AI의 대부라는 별명을 가지고 있는 제프리 힌턴 캐나다 토론토대 교수 등이 대표적이다.

다만 AGI가 실제 구현이 가능한지, 어떤 방식으로 만들어 낼 수 있을지에 대해 전문가들마다 의견이 분분하다. 일부 전문가들은 “걱정할 필요가 없다”라고 말하지만 또 다른 전문가들은 “지금부터 대비해야 한다”고 주장하기도 한다.

최근 알파고를 개발했던 스타트업, 구글의 ‘딥마인드’가 AGI를 정의하고 AI를 분류하는 연구 결과를 논문 공유 사이트인 ‘아카이브’에 게재해 눈길을 끌고 있다. 딥마인드는 AGI에 대한 정의를 연구하기 위해 기존 정의는 물론 현재 상용화된 AI를 비교 분석했다. 이번 논문에는 20년 전 AGI라는 용어를 처음 사용한 셰인 레그(Shane Legg) 박사도 공동 저자로 참여했다. 그는 MIT 테크놀로지리뷰와의 인터뷰에서 “사람들이 이 용어를 다른 의미로 사용하는 것처럼 보이는 토론이 많아 혼란을 초래하고 있다”라며 “AGI가 상당히 중요한 주제가 된 만큼 우리가 의미하는 바를 명확하게 알아야 한다”라고 말했다. 그는 “한가지 작업을 수행하는 AI와 가상의 AI(AGI를 의미)는 구별되어야 한다”라고 말했다. 하지만 많은 사람은 AGI가 실제 컴퓨터 프로그램이 가질 수 있는 잠재적인 속성으로 여기고 있다.

딥마인드 연구진은 AI 분야의 기초 기술로 분류되는 ‘심층 신경망 트랜스포머(deep neural network transformer)’가 AI의 일반화에 적합하지 않다고 봤다. 심층 신경망 트랜스포머는 최근 AI 산업을 이끄는 챗GPT와 같은 생서형AI의 기반이 되는 기술이다. 딥마인드는 “트랜스포머는 사전에 훈련된 데이터 범위를 넘어서는 것을 요구할 때 다양한 실패 모드를 보여준다”라며 “AGI를 희망하는 사람들에게 이 문제는 무시할 수 없는 일”이라고 설명했다. AI가 특정 작업을 하는 데 상당히 능숙하지만 여전히 인간처럼 다양한 일을 처리할 수준은 되지 못한다는 얘기다.

AGI를 나쁘게 사용하는 대표적 인물, 스파이더맨에 등장하는 미스테리오

딥마인드는 케이스 스터디를 기반으로 AGI를 정의하는 6가지 원칙을 내놨다. ‘프로세스가 아닌 기능에 초점을 맞춘다’ ‘일반성과 성능성에 초점을 맞춘다’ ‘인지 및 메타작업에 초점을 맞춘다’ ‘배치(Deployment)가 아닌 잠재력에 초점을 맞춘다’ ‘생태학적 유효성(Ecological Validity)에 초점을 맞춘다’ ‘단일 엔드포인트(Endpoint)가 아닌 AGI로 향하는 경로에 초점을 맞춘다’ 등이다. 딥마인드는 AGI의 모든 정의가 이 6가지 기준을 충족해야 한다고 설명했다.

또한 딥마인드는 현재 출시된 AI를 레벨0부터 레벨5까지 6개의 단계로 나눠 비교 평가했다. 레벨0은 ‘NO AI’, 레벨1은 ‘이머징(Emerging)’, 레벨2는 ‘유능한(Competent)’, 레벨3은 ‘전문가(Expert)’, 레벨4는 ‘거장(Virtuoso)’, 레벨5는 ‘슈퍼휴먼(Superhuman)’이다. 레벨1은 좁은 범위로 SHRDLU(자연어 이해 컴퓨터 프로그램)가 포함되고, 최근 이 분야에서 AGI로 급부상하고 있는 AI로는 ‘챗GPT’ ‘바드’ 등이 포함된다고 봤다. 레벨2는 시리, IBM의 왓슨이 꼽힌다. 레벨3에는 문법을 확인해주는 AI와 달리2, 레벨4는 알파고와 딥블루, 레벨5는 알파폴드가 꼽혔다. 다만 레벨2~레벨5까지는 새로운 기술을 배우고 광범위한 작업을 하는 의미의 AGI는 구현되지 않았다.

딥마인드는 “AGI가 범용성과 높은 성취도 모두를 가져야 하는 데, 이는 과거에 우리가 본 뛰어난 AI 시스템이 AGI 자격을 갖추지 못한 이유를 보여준다”라고 설명했다. 또한 AGI는 다양한 작업 수행뿐 아니라 방법을 배우고 성능을 평가할 수 있어야 하며, 필요할 때는 도움도 요청할 수 있어야 한다. 딥마인드의 이야기를 들으면 들을수록 ‘자비스’가 떠오른다. 딥마인드는 또한 AGI는 자율성을 의미하지 않는다고 이야기했다. 이론적으로는 인간에 의해 완전히 통제되는 똑똑한 기계를 만드는 것 또한 가능하다는 얘기다.

AGI에 대한 논의는 앞으로도 논란이 이어질 것으로 보인다. MIT 테크놀로지리뷰는 “대부분의 엔지니어링 프로젝트는 범위가 잘 잡힌 목표를 가지고 있지만 AGI 구축은 그렇지 않다. 딥마인드의 정의조차 무한히 넓을 뿐 아니라, 엄청나게 똑똑한 AGI를 허용한다”라고 적었다.

분산형AI연구소 설립자인 티미트 게브루는 AGI 개발과 관련해 “신을 세우려고 하지 말라”라고 말했다. MIT 테크놀로지리뷰는 “더 크고 더 나은 시스템을 구축하기 위한 경쟁에서 그러한 조언에 귀를 기울일 사람은 거의 없을 것”이라며 “어느 쪽이든, 오랫동안 혼란스러웠던 개념에 대한 명확성을 갖는 것은 환영할 만하다”라고 평가했다. 레그 박사는 “바보 같은 대화를 하는 것은 좀 흥미롭지 않다”라며 “우리가 이러한 정의 문제들을 극복할 수 있다면, 파고들 좋은 것들이 많이 있다”라고 덧붙였다.