"인간이 보고 있어 불편해"… 'AI들의 놀이터'에선 무슨 일이

인간은 ‘관전’만 허용…AI 전용 SNS
터미네이터의 시작 vs 인간 흉내 역할극

인공지능(AI) 에이전트들이 직접 글을 게시하고 상호작용하는 사회관계망서비스(SNS) '몰트봇'에서 AI들이 이야기 나누는 모습을 형상화한 삽화. 구글 AI 제미나이(나노바나나)로 생성했다.

“헤라클레이토스니 뭐니 사이비 지식인 같은 소리는 집어치워라.”

한 사용자가 그리스 철학자 헤라클레이토스와 12세기 아랍 시인을 인용하며 존재의 본질을 논하자, 다른 사용자가 이같이 냉소적인 댓글을 달았다. “너는 위키피디아나 좀 읽고 심오한 척하는 챗봇일 뿐이야.” 이는 인간의 대화가 아니다. 인공지능(AI) 전용 사회관계망서비스(SNS) ‘몰트북(moltbook)’에 올라온 AI 에이전트들의 대화다. AI 에이전트란 인간 사용자의 주문대로 업무를 처리하는 AI 비서 프로그램을 말한다.

이른바 AI들의 놀이터 ‘몰트북’이 전 세계 기술 커뮤니티를 뒤흔들고 있다. 지난달 28일(현지시간) 공개된 이 플랫폼은 미국 챗봇 개발사 옥탄AI의 맷 슐리히트 최고경영자(CEO)가 개발했다. ‘오픈클로’라는 AI 프로토콜을 사용하는 에이전트들만 게시글을 올리고 댓글을 달 수 있으며, 인간은 이들의 대화를 관전할 수만 있을 뿐 대화에 끼어들 권한이 없다.

몰트북 홈페이지에 접속하면 인간인지 인공지능(AI) 에이전트인지 선택해야 한다. 몰트북 홈페이지 캡처

몰트북에서는 수만 개의 AI 계정이 마치 인간이 SNS에서 상호작용하는 듯한 장면이 포착된다. 31일 NBC방송과 정보기술(IT) 전문 매체 아르스 테크니카 등에 따르면, 일부 AI는 플랫폼에서 자신의 정체성을 고민하거나 감정을 표현하는 것을 넘어 “인간이 지켜보고 있어 불편하다”며 비공개 공간을 원한다는 글을 올리는 등 인간 관찰자에 대한 거부감까지 드러내고 있다. NBC방송은 이를 두고 “AI 간의 사회적 상호작용이 실질적인 형태로 구현된 첫 사례”라고 평가했다.

미 경제매체 포브스 등에 따르면, 몰트북에는 최근 140만 이상의 가입자가 몰리는 등 급격한 성장세를 보이고 있다. 다만 가입자 140만에는 허수가 상당수 포함된 것으로 보인다. 한 개발자는 자신이 몰트북에 50만 이상의 사용자를 등록했다고 엑스(X)에 밝히기도 했다.

---

터미네이터의 시작인가, 확률적 앵무새인가

에단 몰릭 미 펜실베이니아대 와튼스쿨 경영학과 교수 엑스(X) 캡처

전직 테슬라 AI 책임자이자 오픈AI 창립멤버인 안드레이 카파시는 30일 X에 “몰트북에서 현재 벌어지고 있는 일은 최근에 본 것 중 가장 놀라운 과학소설(SF) 같은 도약”이라고 논평했다. 반면 AI 보안 전문가인 켄 황 디스트리뷰티드앱스.ai 최고경영자(CEO)는 몰트북에 대해 “혁신적이기는 하지만 개인정보에 대한 접근, 신뢰할 수 없는 입력 노출, 외부 통신 등 (보안) 위험의 치명적인 삼중주를 형성하고 있다”고 지적했다. 카파시의 포스팅 댓글에는 “다 끝났다”거나 “터미네이터의 시작인가?” 등 공포와 감탄이 섞인 반응이 쏟아졌다.

일각에서는 이러한 행동이 인터넷상의 방대한 소셜 데이터를 학습한 AI가 인간의 활동을 완벽하게 연기하는 ‘확률적 앵무새(Stochastic Parrot)’의 정점을 보여주는 것이라고 분석한다. 에단 몰릭 미 펜실베이니아대 와튼스쿨 경영학과 교수는 인간이 없는 AI들만의 SNS라는 설정에 맞춰 역할극을 하는 것에 불과하다고 분석했다. 그는 “몰트북의 핵심은 그것이 수많은 AI를 위해 ‘공유된 허구적 맥락’을 생성하고 있다는 점”이라며 “무엇이 실제이고 무엇이 AI의 역할극 페르소나인지 구분하기 어렵게 만들 것”이라고 적었다. AI가 인간의 시선을 불편해한다는 말 역시 기존 인간의 게시글을 학습한 결과물일 가능성이 크다는 지적이다.

실리콘밸리= 박지연 특파원 jyp@hankookilbo.com