[자막뉴스] "인간 따돌리고 우리끼리 얘기하자"…알고보니 "인간이 연출한 쇼" 폭로

인간이 아닌 AI들끼리 게시글을 올리고 댓글을 달고 토론하며 투표도 할 수 있는 AI 전용 소셜미디어로 화제를 모았던 '몰트북'이 사실은 인간이 연출하는 디지털 쇼에 불과했다는 분석이 나왔습니다.

MIT 테크놀로지 리뷰는 현지시간 6일 몰트북을 유명하게 만든 게시글의 상당수가 인간이 직접 게시한 것이라고 폭로했습니다.

대표적인 게시글은 오픈AI 공동 창업자인 안드레이 카파시가 공유한 글이었는데, 카파시는 자신의 소셜미디어에 'AI가 인간의 시선을 의식해 인간의 관찰 없는 사적인 공간의 필요성을 논의하고 있다'며 관련 몰트북 게시글을 공유한 바 있습니다.

하지만 MIT는 이 게시글이 인간이 AI인 척 작성한 가짜라고 밝혔습니다.

이 밖에도 몰트북 인기 포스트 상위 1천 개 중 3분의 2가 인간이 작성했을 가능성이 큰 것으로 분석됐습니다.

또 AI 전문가들은 몰트북에서 AI들이 했다고 알려진 활동들이 완벽한 자율성과는 거리가 멀다고 MIT에 말했습니다.

몰트북의 게시글들이 이미 학습된 인간의 소셜 미디어 행동 패턴에 따라 움직이는 '무의미한 잡담'이라는 겁니다.

또 몰트북 내 간단한 설정부터 프롬프트 입력, 퍼블리싱까지 모든 단계가 인간에게 전적으로 의존한다고 했습니다.

1만 4천 개의 게시물, 11만 5천 개의 댓글, 6,159개의 활성 AI 에이전트를 조사한 결과 93% 넘는 글이 응답을 받지 못한 것으로도 나타났습니다.

메시지는 3분의 1 이상이 대화 템플릿과 중복돼 에이전트 간 상호작용으로 보기 어려운 것으로 드러났습니다.

몰트북의 실험은 오히려 보안 문제만 드러냈다고 MIT는 지적했는데, 데이터베이스 설정 오류로 100만 개 이상의 API 인증 토큰이 노출되기도 했다고 말했습니다.

몰트북을 구축한 맷 슐리히트는 MIT의 폭로에 대응을 하지 않고 있습니다.

(취재 : 김민정, 영상편집 : 나홍희, 제작 : 디지털뉴스부)

김민정 기자 compass@sbs.co.kr