AI 이루다 논란 "개발자 윤리 강화" vs "이용자 윤리 돌아봐야"

서비스 멈춘 채팅 봇 이루다가 남긴 AI 윤리

(지디넷코리아=김한준 기자)인공지능(AI) 챗봇 이루다의 서비스는 잠정 중단됐지만 이루다가 지핀 AI 윤리논란에 대한 불씨는 점점 커지는 모습이다. 이루다가 일부 이용자와 대화에서 편향적인 답변을 하는 모습을 보이며 생긴 논란은 AI를 개발하는 개발자의 윤리의식에 대한 문제로까지 확대되고 있다.

AI의 대중화가 성큼 가까워진 요즘 '이루다 이슈'는 삶의 일부가 될 것으로 예상되는 AI 개발과 이를 대하는 이용자의 윤리의식을 다시금 돌아보게 하는 계기가 됐다. 또한 이번 건을 통해 향후 이어질 AI산업 육성과 연구 과정에 타산지석으로 삼아야 한다는 목소리도 높다.

서울과학기술대학교 IT정책전문대학원 이광석 교수는 이번 이슈가 개발자의 편향된 데이터 수집이 원인이 됐다고 분석했다. AI 윤리는 사회 전반의 규칙을 준수해야 하는데 개발 과정에서 부주의한 모습을 보여 사회적 편견이 데이터와 알고리즘 구성에 섞여들어갔다는 이야기도 이어졌다.

이루다.(사진=이루다 페이스북 페이지)

이광석 교수는 "특정한 의도를 지닌 집단의 데이터 어뷰징에 대한 차단이 제대로 이뤄지지 않으면 이를 활용한 머신러닝도 효과적으로 이뤄지지 않는다. 데이터와 알고리즘을 구성함에 있어 사회적 편견이 최소화 되도록 장치를 마련하고 서비스를 시작했어야 했다"고 말했다.

이와 함께 AI 개발자가 윤리 원칙의 중요함을 인식해야 한다고 강조하고 이에 대한 정부나 지자체의 교육이 필요하다고 강조했다.

이 교수는 "정부에서 지난해 디지털 뉴딜을 시작하며 AI 국가전략을 짜고 AI 윤리 가이드라인도 만들었지만 인지도가 낮다. 네이버나 카카오처럼 AI를 개발하는 기업이 자체 가이드라인을 지니기도 하지만 그런게 없이 AI를 만드는 기업도 많다"라고 말했다.

아울러 "방송통신심의위원회가 방송 콘텐츠를 가이드라인에 맞춰 관리하는 것처럼 AI 개발을 관리할 기관이 있으면 좋겠지만 아직은 마련되지 않았다. 과학기술정보통신부 혹은 정부 기관이나 지자체 등이 나서서 이런 윤리에 대해 개발자가 인지할 수 있도록 교육하는 가이드라인을 만들어야 한다"라며 "특히 AI를 활용해 사회적으로 민감한 이슈를 건드릴 수 있는 서비스를 하는 기업은 이런 가이드라인 교육을 반드시 받을 필요가 있다"라고 강조했다.

AI 개발에 있어 이용자 윤리의 중요함을 강조하는 목소리도 있다. 이용자와 소통하며 학습하는 AI의 특성상 특정한 의도를 지닌 이용자가 많다면 AI도 여기에 반응하기 때문이다.

(사진=이미지투데이)

AI 연구와 개발을 진행하고 있는 주요 게임사 관계자는 "개발자 윤리만큼이나 이용자 윤리도 한번 돌아볼 필요가 있다. 특정한 의도를 갖고 AI를 학습시키려고 하는 이용자 집단이 있다면 이를 막아내는 것은 생각보다 쉽지 않다"라며 "AI 개발에서 가장 중요한 것 중 하나가 오염되지 않은 깨끗한 데이터를 얻는 것이다. 이를 위해 많은 시간과 돈이 필요할 정도로 이는 생각보다 어려운 과정이다. AI를 이용하는 이가 AI를 어떻게 바라보고 접근할 것인지에 대해서 스스로 돌아봐야 한다"라고 말했다.

김태영 인공지능팩토리 대표는 AI를 대함에 있어 사람을 대하는 것과 동일한 윤리를 적용할 필요가 있다고 말했다.

김 대표는 "이번 논란은 새로운 기술을 사람이 받아들이는 과정에서 여러 부작용이 나타난 경우다"라며 "AI에 일반적인 사람과 사람 사이의 윤리를 적용할 것인지에 대해 설왕설래하지만 개인적으로는 AI를 대할 때 사람과 동일한 형태로 접근할 필요가 있다고 생각한다. 20대 여성을 상정한 AI라면 이용자 역시 실제 20대 여성을 대하듯이 접근을 해야 한다"고 설명했다.

AI 콘텐츠가 대중 곁으로 다가오는 과정에서 생기는 일종의 성장통에 가깝다는 시선으로 이번 논란을 바라보며 이를 계기로 생겨날 수 있는 섵부른 규제를 우려하는 목소리도 적지 않다.

이장주 이락디지털문화연구소 소장은 "새로운 기술을 토대로 하는 문화 콘텐츠가 등장할 때면 매번 성적인 이슈가 가장 먼저 생겨났다.  이런 점에서 이루다 논란의 시작점이 됐던 AI 성희롱 논란은 충분히 예상할 수 있었던 문제다"라며 "이번 논란은 AI 발전에 있어 일종의 성장통으로 볼 수 있는 사안이다. 다만 사태의 옳고 그름을 판단하는 것만큼이나 이를 기점으로 섵부른 규제론이 불거지지 않도록 주의할 필요가 있다"라고 말했다.

김한준 기자(khj1981@zdnet.co.kr)