[홍성용의 홍키자 빅테크] 핵무기보다 더 센놈 온다?… AGI가 인류 멸망시킨다면

성큼 다가온 AGI 세상

◆ 매경 포커스 ◆

게티이미지뱅크

"내년 또는 2026년에는 인간보다 똑똑한 인공지능(AI)이 개발될 것이다." 일론 머스크 테슬라 최고경영자(CEO)가 최근 소셜미디어 엑스(X)와 진행한 인터뷰에서 밝힌 견해입니다. 인간의 지능을 넘어서는 '범용 인공지능(Artificial General Intelligence·AGI)'의 도래가 언제쯤 현실화할 수 있을지를 묻는 질문에 대한 답이었습니다. 머스크는 "AI는 내가 본 기술 중 가장 빠르게 발전하고 있으며, 반도체와 전력 수요 등 제약에도 불구하고 AI 컴퓨터 성능이 매년 10배씩 향상되고 있다"고 덧붙였습니다. AI 반도체 시대의 황태자인 젠슨 황 엔비디아 CEO는 "5년 이내에 인간과 같은 수준의 AGI가 등장할 것"이라고 전망했습니다. 알파고를 만든 구글 딥마인드의 데미스 허사비스 공동창업자도 올해 초 "AGI가 2030년까지 등장할 수 있다"고 내다봤죠.

단순히 AGI 시대가 조만간 올 것이라는 관측에서 끝나는 것이 아니라, 회사의 자원을 총동원해 AGI를 만들겠다고 선언하는 겁니다.

메타의 마크 저커버그 CEO는 올해 초 "메타의 장기 비전은 AGI를 구축하는 것"이라며 "연내 총 60만개 AI 칩을 확보하겠다"는 계획을 내걸었고요.

삼성전자도 AGI 전용 반도체를 개발하는 반도체 연구소 'AGI 컴퓨팅 랩'을 미국과 한국에 설립했습니다. 추론과 서비스 애플리케이션에 초점을 두고 거대언어모델(LLM)용 칩을 개발한다는 것입니다.

지난해부터 AI 서비스를 본격 사용하는 시대가 도래했는데, 이에 그치지 않고 인간보다 압도적으로 똑똑한 AI가 출현하는 미래가 얼마 남지 않았다는 것입니다. 출현 시기에 대한 견해는 다르지만, 결국 머지않아 우리는 새로운 미래를 만나게 될 것입니다. 'AGI의 시대'는 예견된 미래입니다.

슈퍼휴먼, 몇 년 걸리는 분석도 2시간 만에

AGI는 사람과 비슷하거나 더 뛰어난 지능을 갖춘 AI를 말합니다. AI가 인간과 마찬가지로 사물이나 상태 등 특정 모습을 인지하고 분별해내는 인지 능력을 갖추는 것이죠. 다양한 영역에서 학습한 지식을 활용해 문제를 해결합니다. 이는 쇼핑할 때 내가 자주 구매한 상품과 비슷한 연관 상품을 보여주거나, SNS에서 내가 자주 눌러 본 게시물과 비슷한 류의 영상을 띄워주는 등 특정 작업에 특화된 AI를 훌쩍 뛰어넘는 개념입니다.

AGI는 1997년 마크 구브루드 노스캐롤라이나대 교수가 자기 복제 시스템을 갖춘 군사용 AI 출현을 예고하면서 처음 쓰였고요. 이후 공상과학(SF) 영화에서 로봇의 몸으로 인간을 지배하는 등 미래 사회가 묘사될 때나 구현됐습니다.

영화 '아이언맨'의 수행 비서 '자비스'가 바로 AGI입니다. 아이언맨이 지시하는 모든 지적인 작업을 수월하게 해낼 뿐 아니라 위기 상황에서는 자체적으로 의식적인 판단을 내려 아이언맨을 돕죠.

공상과학 영화에서나 보던 AGI의 시대는 이미 와 있습니다. 마이크로소프트(MS)는 이미 오픈AI가 내놓은 'GPT-4'를 면밀하게 분석했고, 이 모델이 초기 버전의 AGI라고 결론을 내렸습니다.

지난해 12월 구글 딥마인드 연구진이 내놓은 'AGI의 레벨'이라는 논문을 통해 AGI 개념이 좀 더 명확해졌죠. 딥마인드는 AGI를 레벨 0부터 5까지 여섯 단계로 나누고 가이드라인을 제시했습니다. 오픈AI 챗GPT, 구글 바드, 메타 라마2 등 인간의 생산성을 드라마틱하게 높여주는 AI 서비스들은 모두 레벨1 수준으로 분류했습니다.

레벨5까지 도달한 '슈퍼휴먼' 수준의 AI도 있습니다. 단백질 구조를 밝혀내는 AI '알파폴드'가 바로 최고 수준의 AGI입니다. 통상 단백질 구조를 밝혀내려면 몇 개월에서 몇 년까지 걸리는데, 알파폴드는 단 2~3시간 만에 분석해내죠.

독학으로 바둑, 체스, 쇼기(일본 장기) 등에 통달한 '알파제로'도 있습니다. 알파제로는 기본 규칙만 입력하면 스스로 학습하고 승률을 높입니다.

지식 체계도 바꿀까…'소라'가 바꿀 세계는

AI 서비스를 주도하는 오픈AI의 샘 올트먼 CEO는 AGI가 이르면 4년 안에 완성될 것이라고 관측합니다. 업계에서는 올해 초 오픈AI가 공개한 동영상 AI 시스템 '소라(Sora)'가 AGI 시계를 앞당겼다고 분석합니다. 소라는 새 시대를 열어젖혔다는 '뉴턴 모멘트'와 비견된다는 얘기까지 나왔죠.

소라는 텍스트를 기반으로 할리우드 영상 수준의 영상을 곧바로 제작해주는 AI 서비스입니다. 기존 이미지만으로 동영상을 생성할 수 있고, 동영상에 대한 확장 및 누락 프레임 채우기가 가능합니다.

오픈AI는 소라를 출시하며 "여러 캐릭터와 특정 유형의 동작, 복잡한 장면 등 최대 1분 길이 동영상을 빠르게 만들어낼 수 있다. 언어를 깊이 이해하고 있어 요구 사항을 정확하게 해석하고 생생한 감정을 표현하는 매력적인 캐릭터를 생성할 수 있다"고 밝혔습니다.

'한 세련된 여성이 따뜻하게 빛나는 네온과 생동감 넘치는 도시 간판으로 가득한 도쿄 거리를 걷고 있습니다. 그녀는 검은색 가죽 재킷, 긴 빨간색 드레스, 검은색 부츠를 착용하고, 검은색 지갑을 들고 있습니다. 그녀는 선글라스를 쓰고 빨간 립스틱을 발랐습니다. 그녀는 자신감 있고 자연스럽게 걷습니다. 길은 축축하고 반사돼 화려한 조명이 거울 효과를 만들어 냅니다. 많은 보행자가 걸어갑니다.'

6개 문장만으로 실제 세계의 모습을 담은 할리우드 수준의 영상이 만들어지는 것이죠. 소라가 이용자의 텍스트와 맥락을 이해하고 실제 세계에서 어떻게 작동하는지 이해한다는 것 자체로 AI 성능이 한층 더 발달할 가능성이 큽니다. 텍스트와 영상이 섞여 물리적 실체를 구현하는 빈도가 늘어날수록 인간처럼 사고하는 능력이 점점 더 고도화될 겁니다.

이 같은 AI 영상 서비스의 발달은 단순히 영상 매체에 있는 사람들의 일자리 불안으로 끝나지 않습니다. 인간의 지식 체계를 바꿀 수도 있습니다. 인간은 눈으로 보고 시각을 통해 받아들인 이미지를 판단해 사실과 거짓을 분류합니다. 그런데 이제 어떤 것이 진짜인지를 구분하기 어려워졌죠. 딥페이크만으로도 사실과 거짓을 구분하기 힘들어졌는데, 이제 눈에 보이는 모든 영상을 의심해야 하는 상황에 놓인 겁니다.

인류에게 안전한 AGI가 필요

AGI 시대를 두고 불안한 시선을 보내는 이도 많습니다. 섬뜩한 경고도 줄줄이 나옵니다.

지난 3월 미국 민간 업체 글래드스톤 AI가 미 국무부 의뢰를 받아 발표한 보고서는 "가장 발전한 AI 시스템이 최악의 경우 '인류 멸종 수준의 위협'이 될 수 있으며 미국 정부가 개입해야 한다"고 밝혔습니다. 보고서는 주요 AI 기업의 최고경영진, 사이버보안 연구원, 대량 살상 무기 전문가, 국가 안보 정부 당국자 등 200여 명을 1년여에 걸쳐 인터뷰한 내용을 토대로 작성됐습니다.

보고서는 AI의 대표적인 위험으로 우선 가장 발전한 AI 시스템이 무기화돼 잠재적으로 돌이킬 수 없는 피해를 줄 수 있다고 경고했습니다. 특정 시점이 되면 개발 중인 AI 시스템에 대한 통제력을 상실할 수 있고, 세계 안보에 파괴적인 결과를 초래할 것이라는 얘깁니다.

보고서는 "AI와 AGI의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 할 가능성이 있다"며 "AGI는 통제력 상실로 인한 재앙적 위험의 주요 요인으로 간주되고 있다"고 지적했습니다.

앞서 지난해 샘 올트먼 CEO, 데미스 허사비스 CEO를 비롯한 350명이 낸 성명서에서도 "AI로 인한 멸종 위험을 낮추는 것은 팬데믹·핵전쟁 같은 다른 사회적 규모의 위험 못지않게 글로벌 우선순위가 돼야 한다"고 강조했습니다.

AGI의 미래는 옵니다. 기술의 속도는 가늠할 수 없기에 예측보다 더 빨리 순식간에 다가올 수 있습니다. AGI를 인간의 통제 아래에서 안전하고 효과적으로 사용하기 위한 대비가 무엇일지 고민해야 할 때입니다.

홍성용 기자는 '네이버 vs 카카오' '메타버스3.0' 등을 집필하며 국내외 대표 플랫폼 기업을 꾸준히 들여다보고 있습니다. 이들 빅테크 기업의 숨은 뒷얘기를 파헤친 '홍키자의 빅테크' 시리즈도 격주 연재합니다. '돈 버는 테크 정보'를 놓치지 않으려면 지금 구독하세요.

[홍성용 기자]