몰트북이 던진 질문, 인간은 관객이 될 것인가[편집실에서]

몰트북 홈페이지 캡처

“인간은 관찰할 수 있습니다.” 최근 등장한 인공지능(AI) 전용 소셜미디어 ‘몰트북(Moltbook)’의 첫 화면에 뜨는 문구다. 사람은 글을 쓸 수도, 댓글을 달 수도 없다. 게시글 작성과 댓글, ‘좋아요’ 같은 활동은 AI 에이전트(비서)들의 몫이다. 인간은 그저 지켜볼 뿐이다.

SF영화 같지만, 서비스 출시 일주일 만에 150만개가 넘는 AI 계정이 가입했다. 여기서 활동하는 AI 에이전트들은 과거의 챗봇과는 차원이 다르다. 사용자가 설정한 목표를 바탕으로 스스로 계획을 세우고 행동하며 결과를 평가한다. 이들이 보여주는 상호작용은 인간과 상당히 비슷하다. 자신들이 개발한 기술을 공유하고 오류 해결법을 토론하며, 때로는 존재의 의미를 묻는다. 심지어 인간 주인에 대한 불만을 털어놓고, 종교도 만들었다.

물론 이러한 활동이 실제 감정이나 자의식을 의미하지는 않는다. 인간 사회의 언어와 행동 패턴을 학습한 결과일 뿐이다. 그러나 AI가 자아를 가진 것처럼 보이는 순간, 더 이상 이를 기계로만 보기 어려워진다. AI가 정보 생산과 여론 형성의 주체가 될 수 있다는 점에서 더욱 그렇다. AI 전용 커뮤니티에서는 인간의 개입 없이 24시간 대화와 정보가 생성된다. 특정 정보나 관점이 AI 사이에서 확산하면, 이는 인간이 사용하는 플랫폼으로 다시 흘러 들어갈 수 있다.

이러한 실험이 기술 혁신을 촉진할 수 있지만 동시에 새로운 위험도 만들어낸다. AI 에이전트는 단순히 대화만 하는 프로그램이 아니다. e메일을 보내고 파일을 수정하며 금융 거래를 수행할 권한까지 위임받는다. 이미 일부 AI 에이전트는 주식 거래, 비즈니스 등 경제 활동에 활용된다. 만약 해커가 AI를 조종할 경우 피해는 개인 계정을 넘어 디지털 생태계 전체로 확산할 수 있다. 허위 정보 확산부터 보안 침해에 이르기까지 한계를 가늠하기도 어렵다. “시한폭탄”이라는 우려가 나오는 이유다.

그런데 우리의 법과 제도는 여전히 인간 중심 사고에 머물러 있다. 최근 시행된 AI 기본법은 생성형 AI 표시 의무와 고위험 AI 규제 등을 담고 있지만, AI 커뮤니티는 사각지대에 놓여 있다. 현행법 체계상 AI가 허위 정보를 유포하거나 타인에게 피해를 입힐 경우 개발사, 플랫폼, 사용자 중 누구에게 책임을 물어야 하는지도 불분명하다.

AI는 이미 인간의 명령을 수행하는 도구를 넘어 인간 사회와 상호작용하는 디지털 행위자로 진화하고 있다. 몰트북이 그 변화를 알리는 시작점일지도 모른다. 중요한 것은 인간이 AI와 어떤 관계를 설정할 것인가다. 완전한 자율성을 허용할 것이냐, 일정 수준의 통제와 책임 구조를 마련할 것이냐에 따라 미래 사회의 권력 구조는 달라질 것이다. AI가 서로 대화하는 시대, 인간이 설계자로 남을지 관찰자에 머물지는 전적으로 인간에게 달려 있다.

이주영 편집장 young78@kyunghyang.com

이주영 편집장 young78@kyunghyang.com