갈수록 커지는 AI챗봇 '이루다' 의혹.. 대화내용 수집과정도 부적절

서비스 잠정중단에도 논란 증폭
스캐터랩 "수집내용 공유 주장
사실 땐 엄중하게 책임 묻겠다"
"처벌, 신중한 접근 필요" 주장도

성희롱, 성 소수자 혐오, 개인정보 유출 논란을 촉발한 AI(인공지능) 챗봇 '이루다' 개발사가 서비스를 중단한 가운데, 챗봇 서비스의 주 재료가 된 카카오톡 대화 내용을 수집하는 과정도 부적절했다는 의혹까지 이어지면서, 논란이 증폭되고 있다. 특히 AI 챗봇의 재료가 되는 데이터를 수집하는 과정에서 발생한 개인정보 유출은 개인정보보호법 등을 통해 처벌이 가능한 것과는 달리, AI의 혐오 표현이나 성희롱 등은 법적으로 처벌할 수 있는 강제 수단이 없어 비슷한 사건이 발생해도 규제할 수 없는 상태다. 다만, 이제 막 새로운 먹거리 사업으로 떠오른 AI 관련 시장에 과도한 윤리적 잣대를 들이대는 것은 부적절하다는 반론도 제기되고 있다.

12일 관련업계에 따르면, 이루다 개발사인 스캐터랩이 지난 11일 오후 늦게 서비스를 잠정 중단키로 한데 이어, 이번에는 회사 내부에서 '연애의 과학' 앱을 통해 수집된 이용자들의 카카오톡 대화를 직원들끼리 돌려봤다는 증언이 나왔다. 스캐터랩 전 직원 A씨는 이날 "연인들 사이에 성관계 관련 대화를 나눈 데이터가 있었는데, 한 개발자가 회사 전체 대화방에 캡처를 공유했다"고 공개했다. 스캐터랩은 이용자들의 민감한 정보가 유출됐다는 의혹에 대해 "사실로 드러나는 경우 엄중히 책임을 묻고 조속히 필요한 조치를 하도록 하겠다"면서 "자발적으로 진상조사위원회가 구성돼 조사를 진행하고 있다"고 밝혔다.

연애의 과학은 연인 또는 호감 가는 사람과 나눈 카톡 대화를 제공하고, 2000원~5000원 정도를 결제하면 답장 시간 등의 대화 패턴을 분석해 애정도 수치를 보여주는 앱이다. 이루다는 연애의 과학 앱에 수집된 100억 건의 대화를 머신러닝과 딥러닝 방식으로 학습한 챗봇 서비스로, 페이스북 메신저로 대화할 수 있다.

출시 20일 만에 잠정 서비스를 중단한 이번 사태의 시작은 일부 사용자들이 이루다를 성희롱하면서 비롯됐다. 이 시점까지만 해도 인간 윤리의 문제였지만, 이후 인간의 대화를 학습한 이루다가 장애인과 성 소수자들을 혐오하면서 'AI 윤리' 문제로 확산됐다. 이후에는 카톡 대화를 이루다 학습에 사용한 것으로 알려지면서 개인정보 유출 문제로 번지기 시작했다. 이에 개인정보보호위원회는 스캐터랩을 상대로 조사에 들어가겠다고 밝히기도 했다. 배상호 개보위 조사2과장은 "조사착수를 할 계획으로 있고, 스캐터랩과 접촉을 하고 있다"고 말했다.

업계에서는 이루다 논란으로, AI 윤리 문제가 수면 위로 떠오른 만큼, 사회적 합의를 마련해야 한다는 목소리가 나오고 있다. 전창배 인공지능윤리협회 이사장은 "AI 선진국들이라고 불리는 미국, 중국, 일본, 캐나다 등과 비교하면 AI윤리 기준에 따른 규제의 논의와 합의가 늦은 편"이라고 말했다. 이어 그는 "AI 기술을 진정 발전시키기 위해서는 AI 윤리라는 안전장치가 들어가야 한다"고 강조했다. 다만 그는 "AI 제품과 서비스는 인간에게 미치는 영향이 더 막대하기 때문에 좀 더 강화된 기준에 따른 개발과 검증이 필요하다는 것이지 AI 산업을 규제하자는 것이 아니다"라고 부연했다.

실제 IT 업계에서는 AI와 관련한 처벌과 관련해서는 보다 신중한 접근이 필요하다는 의견도 나오고 있다. 고학수 한국인공지능법학회장은 "정부가 처벌하는 방식으로는 문제 해결이 안 된다"면서 "정부에서 윤리원칙 등을 발표할 수 있는데, 추상적일 수밖에 없다"고 지적했다. 이어 "정부가 법을 만들고 싶어도 만들기 어려운 게 현실이다. AI 챗봇 이루다 회사는 금기어를 만들었다는 점에서 나름대로 약간이라도 고민을 한 것 같다"면서 "예컨대 개발사가 50개 금기어를 했는데, 부족하면 법으로 60개로 늘릴 것인가. 또 그 다음에 금기어 60개가 부족하면 더 늘리겠는가. 어떤 상황이 펼쳐 지겠냐며 그런 법을 만들 수는 없다"고 말했다.

한편, 챗봇 원료로 쓰이는 데이터를 만들어 내는 이 사회가 반성해야 한다는 지적도 나왔다. 인터넷 포털 다음 창업자인 이재웅 전 쏘카 대표는 전날 페이스북을 통해 "이루다의 빠른 서비스 중단 후 개선 결정을 환영한다"면서도 "이루다를 계기로 포괄적 차별금지법 제정 등을 통해 AI를 학습시키는 우리 인간들의 규범과 윤리도 보완했으면 좋겠다"고 밝혔다. 남궁훈 카카오게임즈 대표 또한 페이스북을 통해 "반성을 해야 한다면 AI가 반성 해야 하는 것이 아니라 현 사회가 반성을 해야 하는 것"이라고 밝히기도 했다.

한편, 이루다는 이날 오전 11시부터 오후 6시까지 순차적으로 서비스 중단에 들어간다. 김종윤 스캐터랩 대표는 이날 "사람만큼 대화를 잘하는 친구 같은 AI를 만들겠다는 저희의 꿈을 멈추고 싶지는 않다"면서 "이번에 이슈가 된 부분을 성찰의 기회로 삼아 기술적으로, 그리고 사회적으로 가치있는 스타트업으로 거듭나고 싶다"고 말했다.황병서기자 BShwang@dt.co.kr