죽은 '그 사람' 목소리 그대로 통화…"가입 하시겠습니까?"
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
사랑하는 이가 세상을 떠나도 마치 살아있는 듯 그와 통화를 하거나 문자를 주고 받을 수 있다.
영국 케임브리지대 레버훌룸 인텔리전스 미래센터(LCFI) AI 윤리학 연구팀은 사랑하는 사람을 잃은 사람과 문자 및 음성 대화를 할 수 있도록 설계된 '데드봇'이 남겨진 이의 괴로움을 가중할 수 있다며, 데드봇 사용자를 보호할 안전장치가 필요하다고 강조했다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
사랑하는 이가 세상을 떠나도 마치 살아있는 듯 그와 통화를 하거나 문자를 주고 받을 수 있다. 고인의 생전 디지털 기록을 학습한 AI(인공지능) 챗봇, 일명 '데드봇(deadbots)', '그리프봇(greifbots)'을 통해서다. 하지만 최근 연구에 따르면 이같은 챗봇을 장기적으로 사용할 경우 '상실의 고통'이 오히려 커질 수 있다.
영국 케임브리지대 레버훌룸 인텔리전스 미래센터(LCFI) AI 윤리학 연구팀은 사랑하는 사람을 잃은 사람과 문자 및 음성 대화를 할 수 있도록 설계된 '데드봇'이 남겨진 이의 괴로움을 가중할 수 있다며, 데드봇 사용자를 보호할 안전장치가 필요하다고 강조했다. 연구 결과는 8일(현지시간) 국제 학술지 '철학과 기술(Philosophy and Technology)'에 게재됐다.
데드봇은 고인이 남긴 문자, 음성 기록, 게시물 등 '디지털 발자국'을 사용해 고인의 언어 사용 패턴과 성격 특성을 모사하는 AI 챗봇이다. 이를 통해 세상을 떠난 사람의 목소리나 말투를 그대로 재현한다.
데드봇이 주목받기 시작한 건 챗 GPT가 등장한 약 3년 전이다. 2021년, 조슈아 바부라는 캐나다 출신의 한 작가가 챗 GPT-3을 이용해 10년 전 사망한 약혼녀의 말투로 대화하는 챗봇을 만들어 화제가 됐다.
오래전 세상을 떠난 약혼녀를 잊지 못하던 그는 약혼녀가 살아생전 페이스북 등에 남긴 게시글과 오래된 문자 메시지를 데이터 삼아 챗 GPT를 학습시켰다. AI로 '부활'한 약혼녀는 그에게 "사랑한다", "당신은 행복할 자격이 있다", "내가 여기서 당신을 기다리겠다"는 등의 메시지를 남긴 것으로 알려졌다.
DNA 검사를 통해 '나의 뿌리'를 확인하는 웹사이트 '마이 헤리티지(MyHeritage)는 2021년 딥페이크 기술을 활용해 사망한 증조모 등이 마치 살아 움직이는 듯한 영상을 제작해주는 서비스를 내놓은 바 있다.
LCFI 연구팀은 "데드봇을 제공하는 기업이 사용자를 심리적으로 괴롭힐 여지가 있다"고 설명했다. 데드봇 사용 초기 위안을 얻을 순 있어도, 결국 실재하지 않는 사람에 대한 '감정적 무게'에 압도돼 일상생활이 괴로워질 수 있다는 것이다.
데드봇 기업이 사용자로부터 획득한 데이터를 광고에 활용할 가능성도 있다. 세상을 떠난 사랑하는 이의 음성이나 말투로 사용자에게 광고 메시지를 보내는 등 비윤리적 마케팅에 활용될 수 있다는 설명이다.
또 데드봇 서비스를 제공하는 몇몇 기업의 경우 가입 시 원치 않는 알람을 해제하거나 서비스 업데이트 소식을 거부할 수 있는 장치를 마련해두지 않아, 사용자가 더 이상 서비스를 원치 않을 때도 지속해서 고인의 흔적에 노출될 수 있다는 점도 지적했다.
연구를 진행한 카타지나 노바치크-바신스카 LCFI 연구원은 "데드봇은 AI 윤리의 '지뢰밭'과 같다"며 "고인의 존엄성을 우선시하고, 디지털 사후세계 서비스가 돈벌이 수단으로만 활용되지 않도록 주의해야 한다"고 말했다.
토마스 홀라넥 연구원은 "데드봇에선 사용자와 챗봇 간 강한 정서적 유대감이 형성될 수 있으며, 이에 따라 조작에 취약해질 것"이라고 말했다. 그는 "데드봇 속 고인이 품위 있게 '은퇴'할 수 있도록 디지털 장례식 등 일종의 의식을 만들 필요가 있다"고 덧붙였다.
박건희 기자 wissen@mt.co.kr
Copyright © 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지
- 유영재 여파?…선우은숙, '동치미' 하차 결정 "부담 주고 싶지 않다" - 머니투데이
- 김혜연 "6년 난임→뇌종양 시한부 위기…넷째 출산 후 극복" - 머니투데이
- 혜은이, '200억 빚' 안긴 전남편 김동현 언급…"이혼한 것 깜빡" - 머니투데이
- 박나래, 55억 전원주택 간 이유 '이것' 때문…"무당이 이사 가라고" - 머니투데이
- '땡벌' 강진 "아들 둘 독박육아, 미혼부 오해도…아내는 노는 걸 좋아해" - 머니투데이
- 강형욱 아내 미담 등장…"수억원 불탔다" 물류업체 대표에 보인 반응 - 머니투데이
- 또 품절 대란? 10만원에 사던 '냉감' 티셔츠, 여기선 3000원 - 머니투데이
- 북한 '오물 풍선'에 GPS 교란시도도..풍선 개수만 200개 넘었다 - 머니투데이
- "윤계상 어머니, 락스 든 음료수 마셔"…아찔한 테러 피해 '충격' - 머니투데이
- 이상민, 전처 이혜영 노래 나오자 정색…"그만 불러" 탁재훈 당황 - 머니투데이