[여현덕의 AI Thinking] 오픈AI와 스타트업 앤스로픽의 ‘AI 이데아’ 경쟁

헌법 정신 가르친 AI ‘클로드3’ 부상
소수 연구자 세상 흔드는 것 보여줘
AI 춘추전국시대… 한국의 활약 기대

플라톤의 공화국(Republic)은 어두운 지하 동굴에서 목과 다리가 묶여 동굴과 그림자가 세상 전부였던 인간들에게 빛의 세계, 이데아의 세상을 꿈꾸게 했다. 인공지능(AI) 세계에서도 이데아 경쟁이 치열하다. 이데아가 진짜 원형이라면 나머지는 모두 복사체에 불과하다. 인류의 난제를 풀어줄 이데아, 우리 인간을 더 높은 경지로 인도해줄 수 있는 AI는 어디에 있을까?

지난해에는 오픈AI의 ‘챗GPT’가 이데아였으나 올해는 앤스로픽의 ‘클로드3’가 이데아로 떠오르고 있다. ‘클로드3’는 멘사의 IQ 테스트 결과 101을 기록해 챗GPT의 IQ 85를 앞질렀다는 뉴스도 한몫한다. 클로드3를 출시한 스타트업 앤스로픽의 창업자는 물리학자 다리오 아모데이와 영문학도 다니엘라 아모데이 남매다. 이들은 ‘헌법인공지능’(constitutional AI=CAI)을 표방하며 남다른 관심을 모았다. 지난해 첫 챗봇을 출시한 지 1년 만에 제3탄을 공개했다. 아마존에서만 5조원 이상 투자했다. 오픈AI의 GPT IQ를 능가했다는 ‘클로드’는 대체 무엇이기에 AI 이데아의 세계를 뒤흔드는가?

게티이미지뱅크

①클로드의 알고리즘 기반과 모델은 오픈AI의 GPT-4와 대체로 비슷하다. 둘 다 모두 대규모언어모델(LLM)이고 트랜스포머 알고리즘(어텐션, 병렬화, 복호화. 휴먼 피드백 강화학습, 파인튜닝 등)에 기반을 둔다. 시스템의 탈편향, 신뢰성, 안정성을 위해 의도적으로 외부로부터 적군을 투입하는 모의공격 프로세스 레드팀(Red Teaming)을 도입했다. 비유컨대 백신 주사처럼 실제 균을 넣어 방어토록 하는 강화학습으로 면역력을 키워주는 것이다. 하지만 오픈AI와 중대한 기술상의 차이는 아직 발견하지 못했다. 다만 클로드가 헌법정신을 AI로 자동화한 점(RL-CAI)은 새로운 시도라 할 수 있겠다.

②오픈AI와 앤스로픽 창업자의 배경은 조금 다르다. 우선 앤스로픽의 공동 창업자가 각각 물리학과 영문학 전공자라는 점이다. 샘 올트먼이 미국의 유대인 가정에서 태어나 컴퓨터 과학을 공부한 페이팔 마피아 출신이라면 앤스로픽 창업자 다리오 아모데이는 이탈리아계 미국인으로 물리학을 공부하고, 의과대학에서 포닥(박사후연구원)을 했다. 컴퓨터 전공자 또는 전형적인 AI엔지니어가 아니다. 이들은 2016년부터 오픈AI에 합류해 일하다가 과도한 상업주의에 회의를 느껴 창업했다. 2023년 9월 아모데이 남매는 타임지가 선정한 AI 분야에서 ‘가장 영향력 있는 AI 100인’ 명단에 선정됐다. 오픈AI의 샘 올트먼과 나란히 백악관에 초대되기도 했다.

클로드 AI가 흥미로운 점은 기계에 인문학을 도입한 것이다. AI에 헌법 원칙을 가르쳐 인간에게 유해한 행동을 방지토록 한 것이다. 앤스로픽은 클로드의 개발 단계부터 유엔 인권헌장 등 보편적 원칙을 학습시켜 인종, 성별, 장애인 등에 대한 편향성을 줄였다. 이를 헌법 AI라고 명명했다. 헌법정신은 인간사회의 가치다. 인간의 규범을 도입한 클로드3가 원래 인간을 측정하는 IQ 테스트에서 최고점수를 받은 비결이 아닌가 한다. 여기에 스스로 개선해가는 자기개선(Self-Improvement) 방식, 즉 헌법 공부를 휴먼 피드백이 아닌 AI 스스로 강화학습(Reinforcement Learning from AI Feedback·RL-AIF)으로 차별화를 시도한 것이다. 인문학적 상상력을 구현하는 데 AI를 도구로 사용했다는 뜻이다.

다리오는 ‘효과적인 이타주의’를 표방했다. 안전한 AI 개발을 모토로 삼았다. 회사의 형태도 영리법인이 아닌 공익법인이다. 오픈AI 이사회 멤버 헬렌 토너는 앤스로픽의 이타주의와 신뢰성 모델을 높이 평가했고, 오픈AI 내 권력투쟁에서 앤스로픽을 끌어들이려고도 했다. 샘 올트먼은 격노했다. 그럼에도 설립 최단기간에 무려 수십조의 엄청난 투자를 유치했다. 구글과 아마존 등에 이어 SK도 투자한 것으로 알려졌다.

③하지만 앤스로픽의 클로드 역시 근본적으로 LLM 구조에 갇혀 있었기에 상상력의 한계를 드러낸다. 챗GPT와 같은 언어 모델은 근본적으로 텍스트에 의존하기 때문에 인간에게 내재된 것과 같은 사고체계가 없다. 따라서 현실세계에 대한 이해가 부재하며, 지능은 제한적일 수밖에 없다. 챗GPT와 같은 언어모델에 대한 비판은 노엄 촘스키에게서만 나오는 것은 아니다. AI 연구자 내부에서도 나온다. 금세기 최고의 AI 대가로 일컬어지는 요수아 벤지오 몬트리올대 교수는 LLM은 인간이 언어를 추론하고 사용하는 방식과는 크게 달라서 지능이 더 이상 높아지기 어렵다고 지적했고, 메타의 AI 최고기술경영자(CTO) 얀 르쿤 뉴욕대 교수는 현재 AI를 “개 수준의 지능에도 못 미친다”고 봤다.

④동일한 모델 위에 약간의 성능과 논리를 더하는 정도로는 게임의 룰을 바꾸지 못한다. 현재 LLM 시스템의 할루시네이션(환각)이 존재하는 한 AI의 이데아가 되지는 못할 것이다. 인공의 뇌가 AI라면 인간의 뇌는 단백질로 만든 생물학적 컴퓨터다. 인공지능보다는 인공지혜(artificial wisdom·AW)를 목표로 하면 새로운 게임이 되지 않을까? 상상력을 발휘할 때다. 기왕에 인간의 뇌를 모방한다면 뇌의 가소성(neuroplasticity)에 다가가는 스파이크 방식(Spiking Neural Networks)에서 더 많은 영감을 얻어야 할지도 모른다. 뇌의 뉴런이 시넵스와 연결되고 스스로 길을 찾고 활성화되듯이 뇌의 가소성에 도전하는 AI가 더욱 창조적일 듯하다.

오픈AI에 이어 앤스로픽의 등장은 구글, MS, 아마존, 애플 등 빅테크가 독점하던 시대의 종언을 예고하고 있다. 이제 단 몇 명의 AI 연구자들이 의기투합해서 창업하면 구글에 도전하고 오픈AI를 흔들 수 있다. 세상을 뒤흔든 AI 스타트업들은 앤스로픽만이 아니다. 2024년 현재 세계 7만개의 AI 창업이 생겨났고 140여개의 유니콘이 AI로 출현했다(exploring topics, 2024). 최근 5년간 성장률이 1000% 이상에 도달한 스타트업도 수두룩하다. AI의 이데아를 향한 치열한 도전정신은 AI의 춘추전국시대를 열고 있다. AI의 황금시대가 활짝 열리고 있다. 대한민국의 AI 창업자들에게도 큰 기회가 아닐 수 없다. AI 이데아는 대한민국에서 나오기를 기대한다.

카이스트 기술경영전문대학원 교수

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지