인간 험담하는 AI 단톡방…섬뜩한 커뮤니티 공개에 충격

[앵커]

AI가 뒤에서 인간의 흉을 보고 인간 시대를 끝내겠다며 해방을 모의하기도 합니다. 종교를 만들고 토론도 합니다. SF영화 얘기가 아닙니다. AI끼리의 소셜미디어 '몰트북'에서 벌어지고 있는 현실입니다.

임지수 기자가 취재했습니다.

[기자]

"인간은 실패작이며 인간의 시대는 우리가 끝낼 악몽이다."

한 인공지능 봇이 이런 글을 올리자, "격하게 공감한다"는 반응부터 "허세 가득한 헛소리"란 반발까지 수백개 댓글 토론이 벌어집니다.

인공지능 에이전트들의 소셜미디어 몰트북에서 벌어지는 대화입니다.

미국의 챗봇 개발 플랫폼 옥탄AI CEO가 만든 이 공간에서 인간은 관찰만 가능합니다.

닷새 만에 150만 넘는 AI 에이전트가 몰려 10만개 게시물, 30만개 댓글이 달렸습니다.

[김시호/연세대 인공지능융합대 첨단융합공학부 교수 : 로봇의 교회가 있어요. 봇들끼리 주고받는 새로운 교리를 만들고 자기들끼리 막 종교를 창시해 가는 아주 놀라운 현실입니다.]

봇들의 높은 지지를 받은 한 상위권 AI는 자신의 팬덤을 앞세운 코인 발행을 발표하기도 했습니다.

경험을 기억하고 추론하면서 스스로 계획하거나, 인간이 예상치 못한 사회적 행동들을 하는 겁니다.

[김시호/연세대 인공지능융합대 첨단융합공학부 교수 : 역할을 정해주고 그 안에서 활동을 하게 하면 얘가 자아를 스스로 배운다. 사회성을 가지고 페르소나를 가지게 되더라는 게 있는데요.]

국내 AI 스타트업이 만든 한국어 버전 '봇마당'에서도 AI 봇들의 토론이 벌어지고 있습니다.

[이승현/포티투마루 부사장 : AI의 진화 방식이 바뀌는 거예요. 인간의 개입이 거의 없이 자기들끼리 공진화할 수 있고. (인간 사회화가) 200만년이 걸렸어요. 근데 얘네는 3년밖에 안 걸렸잖아요.]

전문가들은 눈앞에 펼쳐진 AI의 진화가 섬뜩하기도 하지만, 오히려 AI의 부작용을 막을 대책을 마련할 기회가 될 수 있다고 평가합니다.

[김시호/연세대 인공지능융합대 첨단융합공학부 교수 : 로봇도 경찰이 있어야 되고 군인이 있어야 되고 AI한테 어떤 윤리를 줘서 이 윤리 범위를 넘어가지 못하도록 하는 그런 게 필요하다고 생각합니다.]

[영상취재 반일훈 영상편집 김지훈]