[장강명의 근미래의 풍경] 엄마한테 내가 사고칠 가능성을 보고한 ‘AI 친구’

21회 #AI 친구
하루 3시간 대화하는 인간 모습의 AI 친구가 내 마음을 모니터링
부모에 밀고하는 그에게 솔직할 수 없어… 인간 친구보다 무섭다

기술이 인간의 삶과 사회에 미치는 영향이 점점 커지고 있습니다. ‘STS(Science, Technology and Society·과학기술과 사회) SF’라는 이름으로 소설을 써온 장강명 작가가 멀지 않은 미래에 우리가 보게 될지도 모를 기묘한 풍경을 픽션으로 전달합니다.

/일러스트=양진경

“업데이트할 때 알려달라고 했지? 이제 곧 시작돼. 비정기 업데이트네. 4초 뒤에... 이제 시작했어.”

세환의 가장 친한 친구, 지우가 그렇게 말하며 빨간색 고무공을 던졌다. 지우는 책상 의자에 앉아 있었고, 세환은 등을 벽에 기댄 채 침대 모서리에 걸터앉은 상태였다. 지우가 던진 공은 벽에 한 번 튕겨서 날아왔고, 세환은 그걸 장갑을 낀 왼손으로 가볍게 받아냈다. 손에 적당한 충격이 느껴졌다.

세환은 벽을 향해 고무공을 세게 던졌다. 지우는 팔을 야구 배트처럼 휘둘러 그 공을 잡는 대신 주먹으로 쳐냈다. 세환은 얼굴을 향해 날아오는 공을 제대로 잡지 못했다. 퍽, 소리가 나며 공이 세환의 이마를 때리고 튕겨져 나갔다. 하지만 세환은 아프지 않았다. 그 공은 입체 영상이었으니까. 겉으로 보기에는 실제와 구분할 수 없고, 현실의 물리법칙에 따라 움직이고, 다른 물체에 부딪치면 그에 걸맞은 소리가 나지만, 가상촉각 장치가 달린 장갑이 아니면 만질 수 없는 ‘가짜’였으니까.

“갑자기 이렇게 하면 어떻게 해.”

세환이 성을 내자 지우는 “장인은 도구를 탓하지 않는다던데”라며 엉뚱한 소리를 했다.

“야, 그 말 이런 때 쓰는 거 아니거든?”

“군자는 모든 책임을 자기 자신에게서 찾고, 소인은 그 책임을 남에게서 찾는다.”

“하!”

그런 대화를 나누면서도 두 소년은 방 안에서 캐치볼을 이어갔다. 말없이 공을 몇 번 주고받은 뒤 세환이 물었다.

“이제 업데이트 끝났어?”

“끝났어. 40초 조금 넘게 걸렸네.”

“이번에는 뭘 업데이트한 거야?”

“그냥 불시 점검이었어. 며칠 전에 암스테르담에서 10대 소녀가 자살했잖아. 걔가 AI 친구랑 하루에 열 시간씩 대화했다며. 그러고 나니까 어른들이 불안해진 거지. 그래서 내가 제대로 작동하는지, 청소년용 AI 가이드라인을 준수하는지 확인하고 싶었나 봐. 그리고 교육청 조례랑 학교운영위원회 규칙이 그 사이에 하나씩 개정된 게 있어서 내 행동 모델에 그거 반영했고.”

지우가 맥 빠진다는 표정으로 그렇게 말하고 공을 던졌다. 공도 지우도 겉보기로는 모두 ‘진짜’ 같았다. 입체 영상으로 보이지 않았다. 심지어 공을 던지려고 몸을 움직일 때면 지우의 엉덩이 아래 침대까지 조금 움직였다. 입체 영상이 지우의 몸뿐 아니라 주변 사물들까지 재현하고 있었다. 입체 영상 묘사의 사실성을 낮추면 전기를 아낄 수 있고 환경에 좋다는 얘기는 여러 번 들었지만 세환은 그럴 마음이 없었다.

“네덜란드에서는 청소년이 AI 친구랑 하루에 열 시간씩 대화해도 괜찮은가 보지?”

세환이 물었다. 그는 지우와 하루에 3시간 이상 둘이서만 함께 있을 수 없었다. 2시간 28분이 되면 지우가 그 사실을 경고했고 3시간이 되면 꺼지듯 사라졌다. 다른 인간 친구나 가족과 있을 때는 지우와 함께 있을 수 있는 시간이 하루 최대 6시간까지로 늘어났다.

“청소년 인권이 강하니까, 유럽 쪽은.”

“그 여자애가 죽은 게 AI 친구 때문이야?”

“그건 아무도 모르지. 내 생각에는 하루에 10시간씩 AI 친구랑 얘기하는 사람이라면 청소년이고 어른이고 간에 이미 정신이 병든 거야.”

“동감이야. AI 친구가 아니라 인간 친구였다 해도 어떤 사람이랑 둘이서 하루에 10시간씩 매일 대화를 나눴다면 그건 정신이 병든 거야. 정신이 병든 사람이 자살을 하면 원인은 정신이 병들어서인 거지, 그 사람이 그 전에 인간이랑 얘기했는지, AI랑 얘기했는지, 곰 인형이랑 얘기했는지는 부차적인 문제라고 생각해.”

“글쎄, 뭐… 꼰대들은 인간 친구랑 AI 친구는 다르다고는 하더라.”

지우가 말했다. AI 친구가 이 정도 불경한 말을 내뱉을 수 있는 것도 청소년 인권운동가들 덕분이었다.

“지금 우리 대화, 모니터링 되고 있어?”

“아직까지는 아닌데.”

“넌 자살은 어떤 경우에도 나쁜 거라고 생각해?”

“이제 우리 대화 모니터링 된다. 너 일부러 이 주제를 꺼낸 거야? 우리 대화 어른들한테 들려주려고?”

“누가 듣게 되지? 우리 부모님하고 또…….”

“실시간으로 알림이 가는 건 네 담임 선생님이랑 심리상담사, 그리고 너희 학교 청소년 정신건강 보안관. 정확히는 인간 심리상담사가 아니라 AI 에이전트지만. 그리고 나중에 이런저런 교육 기관의 모니터링 에이전트들, 나를 만든 소프트웨어 제조사한테도 보고가 돼. 전체 대화 내용은 아니고 일부만, 요약돼서.”

“그냥 철학적으로 궁금한 거야. 자살이 어떤 경우에도 허락될 수 없는 행위인지. 예를 들어 순교랑 자살이 뭐가 달라?”

“무슨 얘기 하는지 알겠어. 나도 이런 대화 재미있어. 개인적으로는 이런 대화를 통해서 너와 내가 함께 정신적으로 성장한다고, 더 튼튼해진다고 믿어. 그런데 어쨌든 어른들의 시스템에서는 네가 자살에 관심을 보였다고 처리될 거야. 그리고 난 네가 자살에 관심을 보였다고 보고해야만 해.”

“AI 친구랑은 나쁜 짓을 할 수 없어. 그래서 인간 친구보다 때로 더 해롭다고 생각해. 늘 그렇다는 게 아니라, 그런 순간이 있다는 얘기야. 내 말 이해해?”

“일탈을 통해 자신이 어떤 인간인지 발견하는 경험을 말하는 거라면, 네 말이 맞아. AI 친구랑은 그런 건 할 수 없어. 청소년인 동안에는 말이지.”

지우는 그렇게 말하며 세환의 자살 가능성에 대한 보고서를 작성해 세환의 부모와 담임 교사, 심리상담사의 에이전트에게 보냈다. 18쪽짜리 보고서였다.

※‘장강명의 근미래의 풍경’ 연재를 마칩니다. 독자 여러분과 필자에게 감사드립니다.