업계 ‘챗봇 윤리 가이드라인’ 나왔다… “심리 상담땐 챗봇 사용 안밝혀도 돼”

KISO, 인간 존엄성 등 5원칙 담아
“회원사들 약관에 반영 계속 권고”

한국인터넷자율정책기구(KISO)가 네이버, 카카오 등과 함께 인공지능(AI) 챗봇 서비스와 관련해 개발자와 운영자, 이용자에게 필요한 행동 윤리를 담은 ‘챗봇 윤리 가이드라인’을 제시했다. 유럽, 미국 등을 중심으로 AI 관련 법안이나 가이드라인이 나오고 있는 가운데 민간 기구에서 AI 챗봇에 특화된 가이드라인을 마련한 건 이번이 처음이다.

3일 KISO에 따르면 가이드라인은 △인간의 존엄성 및 권리 존중 원칙 △프라이버시 보호 및 정보보안 원칙 △다양성 존중 원칙 △투명성 원칙 △책임 원칙 등 5가지 기본 원칙을 담았다. 가이드라인 제정에 참여한 기업은 네이버와 카카오를 비롯해 일상 대화 챗봇 서비스를 선보인 ‘심심이’, 대화형 AI 챗봇 ‘이루다’를 서비스 중인 스캐터랩, AI 자연어처리 스타트업 ‘튜닙’ 등 5곳이다.

가이드라인은 이용자의 사용 환경에 따라 다양하게 적용된다. 가령 일반적 상황에서는 개발자가 이용자에게 대화 상대가 챗봇이라는 점을 미리 밝히도록 했다. 하지만 심리 상담 및 치매 환자 안정화 등 챗봇이라는 것을 밝히지 않을 때 더 의미 있는 효과를 가져올 경우 알리지 않을 수 있다는 내용을 담았다.

개인정보 보호나 편향과 차별을 줄이기 위한 노력 등 개발자나 운영자가 지켜야 할 내용과 이용자가 준수해야 할 행동 윤리 등도 제시했다. 이용자는 챗봇이 만들어 낸 결과물을 활용할 때 필요할 경우 챗봇의 이용 여부를 밝히도록 노력해야 한다. 또 챗봇을 이용하는 과정에서 개인정보를 포함해 중요한 정보를 무단으로 노출하거나 공유하지 않도록 주의해야 한다.

KISO 관계자는 “회원사들이 약관에 이번 가이드라인을 반영하도록 계속 권고할 예정”이라고 말했다.

세계 각국도 AI 관련 법과 가이드라인에 대한 논의를 이어가고 있다. 유럽연합(EU) 의회는 올 6월 본회의에서 생성형 AI가 민주주의 안전 등에 위반되지 않는 콘텐츠를 생성하도록 요구하는 내용의 인공지능법안을 가결했다. 미국에서는 올 6월 의회 상원에서 생성형 AI가 만든 콘텐츠에 대해 사업자가 법적 책임을 지도록 하는 내용의 ‘AI 면책조항 금지법’이 발의됐다.

김하경 기자 whatsup@donga.com
남혜정 기자 namduck2@donga.com