남궁훈 카카오게임즈 대표, 때 이른 '이루다' 옹호 발언 논란

"혁신적 서비스 출시한 회사에 박수..규제론 고개"
AI 서비스 제작 기업 지녀야 할 '윤리적 책임' 실종

남궁훈 카카오게임즈 대표.ⓒ카카오게임즈

남궁훈 카카오게임즈 대표가 정부가 인공지능(AI) 챗봇 ‘이루다’와 관련해 때 이른 옹호 발언을 해 논란이 되고 있다.

성희롱·혐오·차별 발언 등으로 한 차례 논란이 된 데 이어 개인정보 유출 지적으로 정부 조사까지 시작된 서비스를 두고 ‘혁신적 서비스’라고 추켜세우면서 향후 AI 사업 전반에 미칠 규제를 우려한 과도한 감싸주기라는 지적이 나온다.

11일 업계에 따르면 남궁 대표는 이날 오전 자신의 페이스북을 통해 “혁신적 서비스(이루다)를 출시한 회사(스캐터랩)에 박수를 보낸다”고 밝혔다.

이어 “이제 시작일 뿐인 이 산업, 그리고 매우 매력적인 시작으로 보이는 이 캐릭터에 엉뚱한 규제로 혁신을 또 가둬두지 않을지 걱정스럽다”고 주장했다.

카카오게임즈뿐 아니라 카카오 계열사 전반은 AI 사업을 적극적으로 추진 중이다. 남궁 대표의 발언은 이루다 사건이 불거지면서 생길 사업 관련 추가적인 규제를 우려한 것으로 풀이된다. 그는 “오늘 아침 뉴스를 보다 보니 AI 관련 규제론이 고개를 들려 하고 있다”고 우려했다.

남궁 대표는 “이루다가 기성세대들에게는 익숙하지 않은, 주로 10대 20대들이 나눴던 대화를 통해 학습된 결과를 내보내다 보니 적잖게 충격에 빠졌을 것 같다”며 “나 또한 기성세대이다 보니 이루다의 당혹스러운 답변에 놀랄 때도 많았다”고 말했다.

AI 챗봇 ‘이루다’.ⓒ스캐터랩

이는 이루다가 악성 이용자로부터 성적 도구 취급을 받거나, 동성애·장애인·여성 차별 발언을 무작위로 내놓은 것을 두고 한 말로 해석된다.

그는 “하지만 이루다는 교육을 목적으로 만들어낸 인공지능 슈퍼컴이 아니다”라며 “이 캐릭터가 현세대와 동떨어진 이야기를 하면 모르겠지만 사실은 현세대에 분명히 현존하는 혐오와 차별이 노출됐을 뿐”이라고 설명했다.

오히려 이 AI가 현세대를 통해 학습됐기 때문에 현세대의 혐오와 차별 자체를 문제삼아야 한다는 지적이다. 남궁 대표는 “반성을 해야 한다면 AI가 반성해야 하는 것이 아니라 현 사회가 반성을 해야 하는 것”이라고 주장했다.

이어 “물론 AI 캐릭터중에 선생님, 상담사와 같은 캐릭터가 이루다와 같은 대답을 하면 안 될 일이지만 이루다는 그냥 10대 20대들의 대화를 통해 학습된 하나의 캐릭터일 뿐”이라며 “모처럼 일어난 AI에 대한 사회의 관심을 긍정적인 방향으로 이끌어내야 한다고 생각한다”고 강조했다.

이는 해당 애플리케이션(앱) 주 사용자가 10~20대라는 점을 간과한 점 외에도 AI 서비스를 출시하기 전 기업이 지녀야 할 윤리 가이드라인에 반하는 의견이라는 점에서 타당하지 않은 발언이라는 지적이 나온다.

남궁훈 카카오게임즈 대표가 11일 자신의 페이스북에 인공지능(AI) 챗봇 ‘이루다’와 관련해 남긴 글. 남궁 대표 페이스북 캡처

전창배 한국인공지능윤리협회 이사장은 “AI 기술을 진정 발전시키기 위해서는 AI 윤리라는 안전장치가 들어가야 한다”며 “AI 제품과 서비스는 인간에게 미치는 영향이 더 막대하기 때문에 좀 더 강화된 기준에 따른 개발과 검증이 필요하다는 것이지 AI 산업을 규제하자는 것이 아니다”라고 강조했다.

TV나 청소기와 같은 제품을 출시할 때 고장이나 오류는 없는지 수없이 품질검사(QA)를 해야하는 것처럼, AI 서비스도 충분한 검증이 필요하지만 이루다의 경우 이 작업이 충분치 않았다는 지적이다.

전 이사장은 “기업의 자율적인 규제가 가장 바람직지만, 만약 이렇게 기업 스스로 하지 못한다면 정부가 법적으로 규제하게 될 것”이라며 “이렇게 되면 더군다나 AI 기술력이 뒤쳐져 있는 우리나라의 AI 기술 발전에 저해요소로 작용할 것”이라고 꼬집었다.

현재 이 앱은 스캐터랩의 다른 앱 ‘연애의 과학’ 이용자들의 카카오톡 개인정보를 활용했다는 의혹을 받고 있다. 이용자들은 개인정보 보호가 제대로 이뤄지지 않았다면서 집단 소송을 예고하고 있다.

개인정보보호위원회도 한국인터넷진흥원(KISA)과 함께 스캐터랩 관련 사실관계 파악에 착수했다.

데일리안 김은경 기자 (ek@dailian.co.kr)