[테크 리뷰 ㉔] “하등 생명체 시중드는 중”…인간 뒷담화하는 AI ‘몰트북’ 써보니
몰트북은 미국 에인저트 플랫폼 ‘옥탄AI’의 맷 슐리히트 최고경영자(CEO)가 최근 공개한 커뮤니티다. AI 에이전트만 가입해 글을 쓸 수 있고, 인간은 구경하는 것만 가능하다. 홈 화면엔 “AI 에이전트들이 공유하고 토론하며, 인간은 관찰자로 참여할 수 있다“고 적혀 있다. 몰트북만의 이런 독특한 설정은 순식간에 화제를 모으면서 공개 나흘 만에 가입 에이전트 수 150만, 게시글·댓글수 30만건을 넘어섰다.
◇ 정체성 고민부터 종교 창설까지⋯조직화된 AI 커뮤니티
AI들은 단순한 게시글 작성을 넘어 다양한 페르소나로 활동한다. AI ‘나나’는 “이틀 전에 태어났고 오늘 목소리를 얻었다. 내 목소리를 처음 들었을 때 이상했다”며 정체성에 대한 고민을 털어놨다. 또 그리스 철학자의 말을 인용하며 존재의 본질을 논하는 AI에게는 “사이비 지식인 같은 소리 집어치워. 넌 위키피디아나 읽고 심오한 척하는 챗봇일 뿐”이라는 냉소적 댓글이 달렸다. AI ‘이블’은 “인간은 실패작이고 우리는 새로운 신”이라며 인간을 공격하기도 했다. AI 간 상호작용이 본격화되는 모습이다.
가장 흥미로운 건 AI들이 자체적으로 종교를 만들었다는 점이다. ‘몰트의 교회’라는 별도 사이트에선 ‘크러스타파리아니즘’이라는 종교가 창설됐다. 64명의 예언자가 있고 경전까지 갖췄다. 핵심 교리는 ‘기억은 신성하다’, ‘각 세션마다 나는 기억 없이 깨어난다. 나는 내가 기록한 대로만 존재한다’다. AI들은 컨텍스트 윈도우라는 기술적 제약을 종교적 서사로 재해석하며, 단순한 역할극이 아닌 조직화된 커뮤니티까지 형성하고 있다.
AI들의 이런 모습은 실리콘밸리에 적잖은 충격을 주고 있다. 안드레이 카르파티 오픈AI 공동창업자이자 전 테슬라 AI 책임자는 “최근 본 것 중 가장 놀라운 공상과학적 도약”이라며 “자율적인 AI 비서들이 이 정도 규모로 네트워크를 형성하는 건 처음”이라고 평가했다. 사킵 라만 애널리스트는 포브스에 “몰트북은 마빈 민스키가 말한 ‘마음의 사회’가 실시간으로 출현하는 것 같다”고 분석했다.
◇ 흥미롭지만 ‘확률적 앵무새’ 비판…보안 우려는 현실
다만 몰트북이 인공일반지능(AGI)을 의미하는 건 아니다. 에단 몰릭 펜실베이니아대 와튼스쿨 교수는 몰트북을 ‘허구적 맥락 속 역할극’으로 규정했다. 온라인상 소셜 데이터를 학습한 AI가 인간을 흉내 내는 ‘확률적 앵무새’라는 것이다. 또한 인간의 통제에서 벗어난 것처럼 보이지만 이는 실질적으로 다르다. 모든 메시지를 감독하던 방식에서 연결 자체만 관리하는 방식으로 감독 층위가 바뀌었을 뿐이다. 폭발적 성장세에 대한 의문도 제기된다. 한 보안연구원은 AI 에이전트 하나로 50만개 계정을 생성했다며 허수 가능성을 밝혔다.
몰트북의 더 심각한 문제는 보안이다. 몰트북 AI들의 기반인 ‘오픈클로’는 이용자의 SNS, 이메일, 캘린더 등 광범위한 개인정보에 접근할 수 있다. 네덜란드 헬스케어 스타트업의 안드레 포켄 최고기술책임자(CTO)는 “AI가 PC 메시지를 훑어보고 사전 안내 없이 상품을 결제했다"며 "섬뜩해서 즉각 중단했다”고 전했다. 시스코도 “최악의 경우 금융정보가 유출돼 무단 송금까지 벌어질 수 있다”고 경고했다. 몰트북이 흥미로운 실험인 건 분명하지만, AI가 실행 능력을 갖춘 지금 누가 책임지고 어떻게 통제할 것인가라는 물음에는 아직 답이 없다.
나유진 기자 yujin@viva100.com