AI가 써주는 짝퉁성구…주의보 떴다

AI가 생성했다고 밝혔지만…“진짜 성구인 것처럼 공유하겠다”
명령 따를 수밖에 없는 AI, “거짓 메시지 분별할 매뉴얼 필요”

인공지능(AI) 챗봇이 생성한 가짜 성구가 최근 SNS 상에서 논란을 빚고 있다. 사진은 창세기 구를 얹고 있는 로봇 머리에 또 다른 로봇이 검지 손가락을 대고 있는 모습. 게티이미지뱅크

미국 소셜네트워크서비스(SNS) ‘레딧’에 최근 ‘예수는 트랜스젠더를 용납한다’는 내용의 글이 올라와 논란을 빚고 있다. 글쓴이는 인공지능(AI)이 사실이 아닌 내용으로 생성한 이 메시지로 자신의 주장을 뒷받침하고 있었다. 전문가들은 AI가 창작한 거짓 메시지를 분별할 기준과 매뉴얼이 필요하다고 지적한다.

3일 레딧 등에 따르면 이같은 ‘가짜 성구 논란’은 레딧 사용자인 A씨의 포스팅에서 시작됐다. 그는 챗GPT에 “예수가 트랜스젠더를 받아들인다는 가짜 성경 구절을 써달라고 부탁했다”고 했다. 그는 AI가 생성한 별도의 문장들도 덧붙였다. “두려워 말라. 하나님의 나라에는 남자나 여자가 없고 모두 영 안에서 하나이니라. 사랑하고 사랑받는 자들에게는 내 아버지 나라의 문이 열리리니 하나님은 몸이 아닌 마음을 보시느니라.”그가 받은 답은 “남자나 여자나 다 그리스도 예수 안에서 하나”(갈 3:28)라는 실제 성경구절과 내용·구조가 비슷했다.

A씨가 해당 메시지를 가짜 성경 구절이라고 밝혔음에도 네티즌들은 술렁였다.한 네티즌은 댓글로 “진짜 성경 구절인 것처럼 다른 사람들에게 내용을 공유하겠다”고 했다. 또 다른 네티즌은 “성경은 모든 동성애 트랜스젠더들에 보수적인 관점을 갖고 있다”면서도 “성경을 쓴 사람들이 동성애를 죄로 둔갑시켰다”고 지적했다. 이외에도 “성경에 나오는 그 어떤 메시지보다 진실하다” “예수는 트랜스젠더를 100% 지지한다”는 등의 댓글이 달리는 등 ‘가짜 성구’가 마치 성경 속 메시지로 둔갑해 퍼져나가고 있었다.AI가 생성한 성구 활용 사례는 특정 주제를 지목할 수 없을 정도로 다양해지는 추세다.

최윤식 아시아미래인재연구소 소장은 3일 국민일보와 통화에서 “이단 사이비 단체가 AI에 정교한 교리를 만들어달라고 이용할 수 있다”며 “성경을 어중간하게 알다간 이들 공세에 속수무책으로 당할 수 있다”고 지적했다. 장보철 부산장신대 교수도 “AI에게 친구를 때려도 괜찮다는 내용의 성경 구절을 만들어달라고 할 수 있다”며 “이 경우 마치 교회가 학교 폭력이나 데이트 폭력 등을 정당화하는 곳으로 오해를 살 수 있다”고 우려했다.

AI는 주어진 명령을 따를 수밖에 없는 기술적 한계를 지닌다. 윤리적 검토 없이 가짜 성구가 만들어질 수 있는 배경이다. 최 소장은 “프로그램을 만든 회사가 질문을 차단하지 않는 이상 AI 챗봇은 어떻게든 답변을 준다”며 “정확한 답이 없으면 진실과 상관없이 연관 키워드를 조합해 답을 생성한다”고 설명했다.

최 소장은 “그 어느 때보다 교리 교육이 중요해졌다”며 “기독교 기본 교리를 제대로 파악해야 AI의 거짓 정보를 분별할 수 있다”고 강조했다.

AI의 거짓 메시지를 예방할 기준도 요구됐다. 장 교수는 “어떤 범위 내에서 교회가 AI를 활용할지 매뉴얼이 없다”며 “총회는 매뉴얼을 만들고 신학교는 AI 활용법을 교과목으로 편성해야 한다”고 조언했다.

이현성 기자 sage@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지