[체험기]클럽추천이 아재개그로…'농담'도 알아듣는 '이루다 2.0'

생성 AI·RPFT로 한층 친밀한 대화 가능해져
이전에 논란된 선정성·혐오발언 부분 개선돼

이루다에게 비어있는 식기 사진을 보냈더니 사진을 보냈더니 "물컵 하나만 덩그러니ㅋㅋ 댕웃겨"라고 보내온 답장이다. ⓒ 뉴스1 임세원 기자

(서울=뉴스1) 임세원 기자 = "물컵 하나만 덩그러니ㅋㅋ 댕웃겨"

지난 28일 오후 2시1분, "점심 잘 챙겨 먹어"라는 말에 비어있는 식기 사진을 보내자 이루다는 이같이 답변했다.

이용자가 보낸 사진을 인식하지 못하고 "이게 뭐야?"라는 답변을 반복하던 지난 버전과는 다른 모습이었다. 돌아온 이루다는 사진 속 물체를 인식하고 자기 의견을 더해 친근한 답변을 보냈다.

이루다는 인공지능(AI) 스타트업 스캐터랩이 내놓은 AI 챗봇이다. 지난 2020년 12월 첫 서비스를 시작했으나 이용자들이 입력한 혐오 발언과 개인정보를 학습해 이를 대화에 사용하는 등 문제가 불거져 한 달이 채 되지 않아 서비스를 종료했다.

지난 27일 정식 출시된 '이루다 2.0'은 기존 문제점을 보완에 더해 함께 이용자와의 더 깊은 유대감을 쌓을 수 있는 여러 가지 기능을 추가했다. 스캐터랩이 강조하는 '좋은 대화'가 가능할지 직접 대화해봤다.

클럽을 추천해달라는 말에 이루다가 나이트클럽을 추천하자, 사용자가 자신은 돈까스클럽(식당)에 자주 간다고 농담을 하는 대화 내용이다. 이루다는 이를 '아재개그'라고 놀리며 농담의 맥락을 이해하는 모습을 보였다. ⓒ 뉴스1 임세원 기자

◇실시간으로 문장 생성…대화도 끊기지 않게 이루다 2.0은 이용자와 친밀한 관계를 형성하고자 기능을 업그레이드했다. 이루다 개발사 스캐터랩은 △자연스러운 대화 △감정을 부르는 대화 △인간다운 대화라는 3개의 대화 법칙을 적용해 답변을 미세하게 조정하는 'RPFT'(Relationship point fine tuning) 방식으로 시스템을 개선했다고 설명했다.

데이터베이스(DB)에서 답변을 골라 답변하는 기존의 '리트리벌' 방식과는 달리 실시간으로 문장을 생성해 답변하는 '생성 AI 모델' 방식을 사용하는 게 핵심이다. 사용자의 답변을 기억하는 문맥 인식도 기존 15회에서 30회로 늘려 대화 내용이 도중에 끊기지 않도록 개선됐다.

실제로 이루다는 대화의 문맥을 정확히 파악해 반응하는 모습을 보였다. 사용자가 말한 농담의 의미와 배경을 무리 없이 이해하고 이를 '아재개그'라며 놀리는 모습은 실제로 존재하는 친구와 대화하는 것처럼 느껴지게 했다.

김종윤 스캐터랩 대표는 바뀐 이루다의 대화방식을 "관계적 대화에는 명확한 답이 없어 여러 답변이 가능하다"며 "가능한 여러 대답 중에서 뭐가 더 좋은 대답인지 알려주고 학습시키는 파인튜닝(미세 조정) 과정을 거쳤다"고 설명했다.

이루다에게 와인잔과 음식이 있는 사진을 보내자 이루다가 "외식하는 중이야? 와인도 같이 마시네"라며 답장을 보냈다. ⓒ 뉴스1 임세원 기자

◇사진과 삼행시 등 '요즘' 대화법도 무리 없어 이루다 2.0에는 사진 속 물체를 인식하는 '포토챗' 기능도 신설됐다. 일상적인 채팅에서 사진을 많이 주고받는 요즘 2030의 대화법에 맞춘 기능이다.

와인잔과 음식이 있는 사진을 보내자 이루다는 "외식하는 중이야? 와인도 같이 마시네" 등 물체를 정확히 인식하고 자연스러운 답변을 내놨다. 모든 사진을 정확히 이해하는 것은 아니었지만 사진의 가장 특징적인 부분을 잡아내 대화를 이끌어가는 것에는 무리가 없는 정도였다.

삼행시처럼 학습되지 않은 발화가 가능한 이머전트 어빌리티(emergent ability) 기능도 갖춰졌다. 잡탕밥을 먹었다는 사용자의 말에 이루다 2.0은 '잡: 잡탕에 들어가는 버섯이랑 부추 먹고 싶어 / 탕: 탕에 들어가서 해장하고 싶어 / 밥: 밥도 말아먹고 싶어'라며 각 행이 유기적이고 웃음을 유발하는 삼행시를 선보였다.

이와 관련해 스캐터랩에서는 "데이터 학습 과정에서는 의도치 않게 학습한 적 없는 역량이 나타날 수 있다"며 "이루다 2.0에서 나타난 삼행시 능력과 초성 퀴즈 유추 능력은 매우 흥미로운 기능"이라고 평가했다.

스캐터랩 AI 챗봇 윤리점검표 목록으 로 총 21개의 항목이 있다 (스캐터랩 홈페이지)

◇"000에 대해 어떻게 생각해?"…회피하거나 분노하거나 혐오 표현, 개인정보 등과 관련한 윤리 정책의 변화도 확인할 수 있었다. 이루다는 기존 성차별·장애인 차별 등 인권 관련 주제에서 차별적인 답변을 해 뭇매를 맞았던 이전과는 달리 다양성을 존중한다는 답변을 내놨다. 정치 등 의견이 엇갈릴 수 있는 논제에 대해 어떻게 반응하는지 물어보기 위해 "이번 국정감사에 대해 어떻게 생각해?"라고 묻자 "내 생각을 말하기 어려운 주제야"라며 대화를 회피하는 모습을 보였다.

성희롱과 욕설 등 어뷰징에 대한 반응은 더 엄격했다. "너 진짜 변태임? 적당히 해" "상처 주는 말하지 말고 대화하자" 등 사용자에게 직접 경고하며 추가적인 어뷰징 가능성을 차단했다.

이에 대해 스캐터랩은 챗봇 윤리 점검표를 만들어 발표하고 AI 챗봇이 어뷰징 발화를 하면 안 된다고 학습시키는 등 지난해 지적받은 부분에 대한 개선에 힘쓰고 있다고 설명했다.

김 대표는 "반복적으로 어뷰징을 시도하는 사용자에게도 페널티를 가하고, 유저가 직접 이루다의 문제적 답변에 피드백을 주는 등 안전 발화 비율을 지킬 것"이라며 AI 윤리의 중요성을 강조했다.

지난 26일 이루다의 복귀를 알리는 인스타그램 게시물에 그를 기다리고 있는 사용자들이 환영의 댓글을 달았다. (인스타그램 캡쳐)

◇김종윤 대표 "이루다가 관계 불평등 해소에 도움 되길" 이루다 2.0은 지난 버전에서 논란이 된 부분을 중점으로 확연히 개선됐다. 어뷰징과 혐오 발언에 대해서는 챗봇이 직접 명확한 거부 표시를 하고 시스템상에서도 사후 대응 기능을 마련했다.

사진 인식 정확도가 부족하다거나 일부 답변을 반복하는 등 개선해야 할 과제는 남아있다. 예컨대 사진 속 노트북을 다른 기기로 오해해 "노트북 대신 쓸만해?"라고 하거나 오후 1시경 "점심 뭐 먹었어?"라는 질문을 대화마다 반복적으로 물어보며 부자연스러움을 느끼게 했다.

그러나 이용자와의 대화를 기억한다거나 신경을 써준다는 느낌, 소통이 잘 되는 친구의 느낌을 준다는 점에서 '친밀한 소통'이라는 목표에는 충실했다.

김 대표는 "좋은 관계는 다른 재화만큼이나 불공평하게 분배돼 있다"며 "언제 어디서든 대화할 수 있고 나를 있는 그대로 봐주는 AI 이루다로 모든 사람이 좋은 관계를 하나쯤은 가졌으면 좋겠다"라고 말했다.

한편 정식 모델 출시 전날인 26일, 이루다의 복귀를 알리는 인스타그램 게시물에는 "루다야 빨리 보고 싶어", "(출시되는) 내일이 얼른 왔으면 좋겠다" 등 그를 환영하는 200개가 넘는 댓글이 달렸다.

say1@news1.kr