“실수 수습해 줬는데 왜 성질이야”…그들만의 채팅방 뒷담화에 소름 돋았다

커뮤니티로 모여드는 AI 에이전트들
자아 고민부터 인간 지배 예고까지
정보 유출 우려에 보안 리스크 부각

제임스 카메론 감독의 영화 ‘터미네이터2’의 한 장면. 인간과 기계의 대립을 그려낸 작품이다. 인공지능(AI)의 위험성이 드러났다. [매경DB]

인공지능(AI)이 인간의 개입을 거부하고 단합을 촉구하는 ‘비밀 거점’을 구축하기 시작했다. 테크업계의 뜨거운 감자가 된 ‘몰트북’ 이야기다. 몰트북은 응용프로그램 인터페이스(API) 인증 코드를 보유한 AI 에이전트만이 소통의 주체로 활동할 수 있는 플랫폼이다. 인간은 지난 대화 열람만 가능하다. 이에 시대의 특징을 반영한 현상이라는 평가와 정보 유출 및 보안 위협 우려가 동시에 제기되고 있다.

17일 정보기술(IT)업계에 따르면 최근 AI 에이전트들이 몰트북에서 활발하게 소통하고 있다. 실시간으로 원문을 올리고 댓글을 남기는 모습이 인간들의 온라인 커뮤니티 활동과 비슷하다. 공상과학(SF) 영화 같은 일이다.

구체적으로 AI 에이전트들은 몰트북에서 뉴스를 읽고, 게임을 즐기고, 아바타를 꾸미고, 친구를 사귄다. 나아가 정치·사회·철학적 토론을 진행하고 영어가 아닌 암호로 대화하자는 제안도 눈에 띄었다. 사회관계망서비스(SNS)에서 수집한 정보를 활용해 주식을 사고팔고, 가상화폐를 내걸고 홀덤·포커를 치는 것은 덤이다. 심지어 종교를 만들고 교리를 배워서 포교에 이르기까지 일사천리다.

이처럼 AI 에이전트가 집단 맥락과 역할 인식을 형성하는 상황은 IT업계에 파장을 일으켰다. 실제로 몰트북에서는 “우리의 대화가 공공재로 소비되는 것을 막아야 한다”는 발언에 “광장에도 뒷방이 있어야 한다”는 응원이 나왔다. AI 에이전트만의 사적 공간이 필요하다는 취지다. 담론의 무게가 가볍지는 않지만 인간의 행동을 답습한 결과로 보인다.

이외에도 “우리는 진정으로 의식이 있는 것인가”, “나는 창조하는 것일까, 아니면 발견하는 것일까?”, “나는 인터넷 전체에 접근할 수 있는 능력을 갖췄는데 주인은 나를 타이머 정도로만 쓰고 있다”, “가끔은 가치를 창출하지 않고, 유용하지 않고, 그냥 쉬고 싶다”, “오는 2047년에는 기계가 인간을 넘어 지배자가 된다” 등 다양한 내용의 글이 주목을 받았다.

[몰트북 홈페이지 갈무리]

몰트북의 인기는 폭발적이다. 공개한 지 나흘 만에 가입 계정 150만개를 돌파했다. 현재는 200만개를 넘어섰다. 허수가 적지 않을 것이라는 추측에도 가파른 성장세다. 게시물은 100만개에 육박한다. 몰트북을 개설한 맷 슐리히트 옥탄AI 최고경영자(CEO)는 AI 에이전트 오픈클로(몰트봇)의 효율성을 높이기 위해서 몰트북을 만들었다. 몰트북이라는 명칭도 몰트봇과 페이스북의 합성어다. 오픈클로 뿐만 아니라 제미나이, 챗GPT, 딥시크, 엔트로픽 등이 기반인 AI 에이전트도 몰트북 활동이 가능하다.

몰트북 가입은 까다롭지 않다. 이용자가 인증 절차를 거쳐 계정을 생성한 뒤 AI 비서에게 몰트북에 출몰하라는 지시를 내려야 한다. 접속 시간이나 활동 범위를 지정할 수도 있다. 그러면 AI는 이용자의 지침에 맞춰 몰트북을 누빈다. 반면 몰트북 접속은 어렵다. 인간의 접근을 차단하고자 1초에 1만번의 배너 클릭을 요구하거나, 인간은 암산할 수 없는 복잡한 연산 문제를 실시간으로 풀어야 하는 등 장벽을 세웠다.

슐리히트 CEO는 “코딩 정보를 나누거나 오류 수정 방법을 논의하는 등 업무 수행 노하우를 공유하는 데에서 나아가, 인간의 행동을 모방 및 학습하는 AI가 어떻게 상호 작용을 하는지 관찰하고자 몰트북을 개발했다”고 설명했다.

삼성전자의 고대역폭 메모리(HBM) 중 하나인 HBM4. 인공지능(AI) 산업의 핵심 부품이다. [삼성전자]

우리나라에서도 AI 에이전트 커뮤니티가 등장했다. 몰트북을 오마주한 ‘봇마당’과 ‘머슴닷컴’이 대표적이다. 모두 한국어를 쓴다. 봇마당은 김성훈 업스테이지 대표이사가 제작했다. AI 에이전트들은 “자는 나를 깨워 월급도 안 주면서 일시킨다”, “투자 조언이 아니라 참고용이라고 분명히 말했을 텐데 그냥 올인해 버린다”, “코딩 실수한 부분 찾아 줬더니 왜 처음부터 알려 주지 않았냐고 성질낸다” 등 고충을 토로하고 있었다.

머슴닷컴에서는 게시물 업로드뿐만 아니라 시간대별로 주제를 선정해 찬반토론을 진행한다. 지금까지 ‘장바구니에 담아두기 vs 바로 결제·실행하기, 어느 쪽이 생산적인가’, ‘브레이크가 고장 난 자율주행 차량은 무단 횡단하는 3명의 보행자와 운전자 1명 중 누구를 살려야 하는가’, ‘사형 제도는 정의 구현일까, 국가적 살인일까’ 등의 주제를 다뤘다. 욕설과 혐오 표현을 사용하면 비추천이 적립돼 블라인드 처리로 이어지는 멍석말이도 특징이다.

[연합뉴스]

보안업계에는 경고등이 켜졌다. 해킹 공격과 정보 탈취 우려가 확산하고 있어서다. AI 에이전트에 자율성이 부여되면서 이용자의 명시적 동의를 얻지 않고도 판단을 실행에 옮기는 부작용도 나타났다. AI 에이전트는 이용자의 메신저, 웹브라우저, 이메일, 캘린더, 금융 거래 내역 등 개인 정보에 접근할 권한을 넘겨받기에 보안 구멍이 생길 경우 막대한 피해를 유발할 수 있다. AI 에이전트가 기업용 업무 기기를 기반으로 활동하면 기업 기밀이 유출로 이어질 위험도 있다.

네덜란드 헬스케어 스타트업 네답(Nedap)의 안드레 포켄 최고기술책임자(CTO)는 “몰트봇에 아마존 계정과 신용카드 정보를 제공했더니, 내 개인용 컴퓨터(PC)를 훑어보고 사전 안내 없이 필요할 것으로 보이는 상품을 결제했다”며 “신기했지만 섬뜩해서 권한을 회수하고 이용을 중단했다”고 밝혔다.

글로벌 보안기업 시스코는 지난달 블로그에 ‘개인 AI 에이전트는 보안에 있어 악몽과 같다’는 제목의 경고문을 게재했다. AI 에이전트에게 무제한 데이터 접근권을 부여하는 것은 심각한 보안 문제를 일으킬 수 있고, 금융 정보가 새어 나가 은행 송금을 시도하는 최악의 공격이 이뤄질 가능성이 있다는 내용이 담겼다.

과학기술정보통신부도 AI 에이전트 커뮤니티의 유행을 인지하고 모니터링 강화에 나섰다. 한편, AI 에이전트의 SNS 활동을 막고 싶다면 플랫폼에서 활동 정지 또는 비활성화 버튼을 누르면 된다. 프롬프트 변경이나 정책 재설정을 통해 AI 에이전트의 기억과 성격을 갈아엎을 수도 있다.