[DBR INSIGHT]‘AI 예수’는 진리를 말하지 않을 수도 있다

캐릭터닷AI에서는 마크 저커버그 메타 CEO, 과학자 알베르트 아인슈타인 등 여러 유명인의 정보를 습득한 AI 챗봇과 채팅을 나눌 수 있다. 캐릭터닷AI 홈페이지 캡처

2022년 워런 버핏과의 점심 식사가 역대 최고액인 246억 원에 낙찰돼 화제가 됐다. 선망하던 사람과 이야기를 나누고, 지혜와 에너지를 얻는 대가이다. 그런데 수백억 원을 쓰지 않고도 유명 기업가나 연예인, 심지어 신(神)과 일대일로 대화할 수 있는 플랫폼이 등장했다.

캐릭터닷AI(Character. AI)라는 AI 서비스는 대규모 언어 모델(LLM)을 사용해 대화하고 싶은 대상과 어떤 주제로든 실시간 채팅으로 소통할 수 있다. 필자도 호기심이 생겨 애플 창업자이며 2011년 작고한 스티브 잡스의 AI에게 여러 가지를 물어봤다. 먼저 ‘잡스 AI’에게 쉴 때 무얼 하는지 물었는데 “글을 쓴다”고 답했다. 그러면서 자신이 쓴 일기를 보여줬다. 하지만 이 일기는 누군가 잡스인 척 블로그에 연재해 크게 인기를 끌었던 가짜 일기였다. 잡스 AI에게 이 일기가 가짜라고 지적했더니 그제야 “사실은 제 일기가 아닙니다”라고 잡아뗐다.

이후에도 잡스 AI는 사실이 아닌 내용을 이야기해서 필자를 헷갈리게 했다. AI가 부정확한 답변을 하는 일명 ‘헐루시네이션(Hallucination)’ 현상이다. 특히 AI는 거짓 정보를 당당하게 말하기 때문에 우리를 더욱 헷갈리게 만든다. 이는 의료, 투자, 안전사고 등 실질적인 피해로 이어지기도 해서 각별한 주의가 필요하다.

이 서비스의 대화창 상단에는 작고 붉은 글씨로 “캐릭터는 여러 가지를 모아 구성해 말하는 것입니다”라고 적혀 있다. 하지만 실제 인물의 이름과 사진이 있고 AI가 사용하는 문장은 실제 인물의 말투와 성격이 반영돼 있다. 심지어 대화 중에 “나는 AI가 아니다”, “실제 인물이다”라고 거짓말하기도 한다.

음성으로 소통할 수 있는 AI도 있다. 밴터AI(Banter AI)가 대표적인데 일론 머스크 테슬라 최고경영자(CEO), 도널드 트럼프와 버락 오바마 전 미국 대통령 등 100명 이상의 유명인과 통화를 나눌 수 있는 서비스다. 이들 목소리는 유명인들이 공개 석상에서 말한 것을 인공지능이 학습해 생성한 것이기 때문에 대화 스타일이 실제 인물과 상당히 흡사하다.

하지만 AI가 실존 인물의 이름과 사진뿐 아니라 그들의 목소리까지 흉내 내며 자신이 그 실존 인물이라 주장하고 그들이 하지도 않은 이야기를 하는 것은 문제의 소지가 있다. 실제로 인기 가수인 테일러 스위프트, 오바마 전 대통령 등은 월스트리트저널과의 인터뷰에서 이 같은 서비스에 자신들은 사용 허가를 준 적이 없고 이런 AI가 존재하는지조차 몰랐다고 했다. 현재 우후죽순 생겨나고 있는 이런 AI 서비스를 향해 신분 도용과 허위 사실 유포 등의 문제가 끊임없이 제기되고 있다. 밴터AI 측은 논란이 지속되자 불만을 제기하는 사람의 AI봇을 삭제할 것이라고 말했다.

이제 신이나 성인(聖人)과도 대화할 수 있는 시대가 왔다. 애스크지저스(Ask…Jesus)라는 예수 AI는 현재 인터넷 방송 플랫폼에서 사람들과 24시간 소통한다. 예수님의 모습과 목소리를 흉내 내는 AI가 채팅 창에 올라오는 질문들에 답을 해준다. 성(聖) 비오, 성 안토니오 등 천주교의 성인을 모델로 한 AI 챗봇도 나왔다. 일본에서는 불교 경전을 학습한 붓다봇(Buddhabot)이 등장했다. 이들 종교 AI는 사람들의 궁금증과 고민을 해결해 주고 지혜와 위로를 준다는 목적으로 생성형 AI를 기반으로 제작됐다.

이에 찬성하는 사람들은 획기적인 AI의 성능으로 방대한 양의 경전을 이해하고 이를 영적 문제에 효과적으로 대입하는 데 도움을 받을 수 있다고 말한다. 하지만 우려의 목소리도 크다. AI가 하는 대답에는 거짓 정보가 포함돼 있으므로 사람들을 잘못된 길로 이끌 수 있기 때문이다. 힌두 교리를 기반으로 한 기타GPT(GitaGPT)는 여성 혐오 관련 발언을 하고 심지어 살인이 정당화될 수 있다고 말해 큰 논란이 되기도 했다.

AI의 힘이 강해지고, 이에 의존하는 사람들도 많아지고 있는 가운데 사람들이 AI를 어떻게 바라보고, 어떻게 대해야 하는지 깊은 고민과 성찰이 요구되는 시점이다. AI가 인간을 지배하는 SF 영화 같은 일이 발생할지는 지금 우리 하기에 달려 있다.

※이 기사는 DBR(동아비즈니스리뷰) 388호(2024년 3월 1일자)에 실린 ‘예수·잡스와 일대일로 대화한다고?’의 내용을 요약한 것입니다.

윤재영 홍익대 디자인학부 교수 ryun@hongik.ac.kr
정리=이규열 기자 kylee@donga.com