개발업체 "예상했던 일..학습 거듭되면 나아질 것"
올해 중 남자 버전도 출시"
[경향신문]
인공지능 챗봇 ‘이루다’를 개발한 스타트업 스캐터랩은 “사용자들의 부적절한 대화를 발판으로 삼아 더 좋은 대화를 하는 방향으로 학습을 시키려고 준비하고 있다”며 “1차 결과물은 (올해) 1분기 내에 적용할 수 있을 것으로 예상한다”고 밝혔다. 또 “개발 일정상 여자 버전인 이루다가 먼저 나온 것”이라며 “아마도 올해 중으로 남자 버전의 이루다도 출시할 수 있을 것 같다”고 말했다.
김종윤 스캐터랩 대표는 지난 8일 자사 블로그(https://blog.pingpong.us/luda-issue-faq/)에 올린 “오늘 이루다 관련 논란에 대해 공식 입장을 밝힙니다”란 글을 통해 이같이 말했다. 김 대표는 “그동안의 서비스 경험에 비추어봤을 때, 인간이 (성별과 무관하게) AI에게 사회적으로 용인되지 않는 인터랙션을 한다는 건 너무 자명한 사실이었고, 충분히 예상할 수 있는 일이었다”며 “문제가 될 수 있는 특정 키워드, 표현의 경우 이루다가 받아주지 않도록 설정했다. 일부 놓친 키워드는 서비스를 하면서 지속적으로 추가하고 있다”고 말했다. 이어 “모든 부적절한 대화를 키워드로 막을 수 있는 건 아니다”라며 “저희가 사전에 준비할 수 있는 정도로는 충분히 대응을 해놓은 상태였다”고 덧붙였다.
김 대표는 장기적으로는 이루다가 관계에 맞는 자연스러운 대화를 할 수 있을 것이라고 전망했다. 그는 “업데이트를 해도 사람들은 또 기발한 방법으로 부적절한 대화를 하는 방법을 생각해낼 것”이라며 “그럼 그걸 또 학습 재료로 삼아 학습할 수 있을 것이다. 이 과정을 반복하다보면 이루다는 점점 더 좋은 대화를 하는 방법을 배워갈 것”이라고 말했다.
마이크로소프트사가 2016년 트위터를 통해 선보였던 AI ‘테이’처럼 부적절한 대화로 문제를 일으키다 이루다 운영이 중단되는 일은 없을 것이라고 장담했다.
김 대표는 “이루다는 사용자와의 대화를 바로 학습에 적용하지는 않고 레이블러들이 개입해서 무엇이 안 좋은 말이고, 무엇이 괜찮은 말인지 적절한 학습 신호를 주는 과정을 거칠 계획”이라며 “나쁜 말을 무작정 따라 하는 게 아니라 오히려 그게 나쁜 말이라는 걸 더 정확히 알게 되는 계기로 삼을 수 있다”고 설명했다.
홍진수 기자 soo43@kyunghyang.com
Copyright © 경향신문. 무단전재 및 재배포 금지.
- 여성·인종·소수자 차별 민낯 보여준 챗봇 ‘이루다’…성희롱 논란이 ‘AI 윤리’ 문제로 확산
- 일본 목욕탕서 700장 이상 불법도촬한 외교관···조사 없이 ‘무사귀국’
- 서울 다세대주택서 20대 남성과 실종 신고된 10대 여성 숨진 채 발견돼
- 안현모, 이혼 후 한국 떠나려고···“두려움 있었다” (전참시)
- 尹, 9일 기자회견 유력…대통령실 “할 수 있는 답 다하겠다는 생각”
- 인감증명서 도입 110년 만에…9월30일부터 일부 온라인 발급 가능해져
- “하이브·민희진 분쟁은 멀티레이블 성장통” “K팝의 문제들 공론화”
- ‘유시민 누나’ 유시춘 EBS 이사장 사무실 압수수색
- 김신영 날린 ‘전국노래자랑’ 한달 성적은…남희석의 마이크가 무겁다
- 국가주석에 국회의장까지 권력 빅4 중 2명 숙청···격랑의 베트남 정치