KISO, 챗봇 윤리 가이드라인 마련… “대화 상대가 챗봇이면 미리 알려야”

민간기구가 마련한 첫 챗봇 특화 윤리 가이드라인

그래픽=정서희

한국인터넷자율정책기구(KISO)는 4일 챗봇 서비스의 신뢰도를 높이고 윤리적 문제에 대응하기 위해 ‘챗봇 윤리 가이드라인’을 마련했다고 발표했다. 인공지능(AI) 전성기를 맞이해 인공지능 윤리와 법률들이 마련되고 있지만, 민간기구를 통해 챗봇에 특화된 윤리 가이드라인이 마련된 것은 이번이 처음이다.

가이드라인은 인간 존엄성 및 권리 존중, 개인정보 보호 및 정보 보안, 다양성, 투명성, 책임 등 인공지능 챗봇이 지켜야 할 다섯 가지 원칙을 포함했다.

특히 가이드라인은 챗봇 서비스 개발과 운영 활용 과정에서 발생 가능한 인공지능의 편향, 권리침해 등 윤리적 문제에 대응하기 위해 개발자 뿐 아니라 운영자, 이용자에게도 필요한 행동 윤리를 상호보완적으로 제시했다. 이는 이용자도 챗봇 생태계의 한 축으로서 챗봇이라는 대화 상대방을 윤리적으로 이용해야 함을 강조한 것이라고 한국인터넷자율기구는 설명했다.

가이드라인은 일반적인 상황에서는 대화 상대가 챗봇임을 이용자에게 미리 밝히도록 했다. 하지만, 챗봇임을 밝히지 않는 것이 더 유의미한 효과를 가져올 수 있는 심리 상담 등의 특수한 경우 이를 밝히지 않을 수 있다고 명시했다. 가인드라인에는 챗봇 서비스를 개발하고 활용하는 전 과정에서 이용자의 다양성을 존중하고, 편향과 차별을 줄이기 위해 노력해야 한다는 내용도 담겼다. 이 외에도 모든 이용자의 접근성이 향상될 수 있도록 아동과 청소년, 노인층, 장애인을 고려해 기능이 단순해야 한다는 내용도 포함됐다.

이재신 KISO 신기술위원회 위원장(중앙대 미디어커뮤니케이션학부 교수)은 “변화하는 기술 환경에서도 폭넓은 사회적 공감을 얻을 수 있도록, 앞으로 가이드라인을 지속해서 수정, 보완해 나갈 계획”이라고 말했다.

- Copyright ⓒ 조선비즈 & Chosun.com -