"대화 전 챗봇인지 확인하세요"…KISO, 윤리 가이드라인 마련

민간기구서 제작한 첫 챗봇 특화 윤리 가이드라인

'글은 챗 GPT, 번역은 AI 파파고' [연합뉴스 자료사진]

(서울=연합뉴스) 오규진 기자 = 한국인터넷자율기구(KISO)는 인공지능(AI) 챗봇 서비스 신뢰 제고 및 윤리 문제 대응을 위한 '챗봇 윤리 가이드라인'을 마련했다고 4일 밝혔다.

가이드라인은 인간 존엄성 및 권리 존중, 개인정보 보호 및 정보보안, 다양성, 투명성, 책임 등 인공지능 챗봇이 지켜야 할 다섯 가지 원칙을 포함했다.

먼저 가이드라인은 이용자들에게 대화 상대가 챗봇이라는 점을 미리 밝히고, 결과물에 오류가 있을 수 있다는 점, 데이터가 추후 인공지능 학습에 쓰일 수 있다는 점 등을 고지하도록 했다.

다만 심리 상담, 치매 환자 안정화 등 챗봇이라는 점을 밝히지 않는 것이 더 유의미한 효과를 가져올 때는 알리지 않아도 된다고 명시했다.

서비스에서 불법·유해 정보가 노출되지 않도록 기술적 방안을 마련하도록 했으며, 어린이와 노인, 장애인 등에게도 동등한 접근성을 보장하기 위해 사용자환경(UI) 단순화 및 기능 추가 필요성도 언급했다.

아울러 챗봇 서비스 개발과 운영, 활용과정에서 발생할 수 있는 윤리 문제에 대응하기 위해 개발자뿐 아니라 운영자, 이용자에게도 필요한 행동 윤리도 제시했다.

KISO는 인공지능 윤리 및 법률이 학계와 법조계에서 논의되고 마련되는 상황에서, 민간기구에서 제작한 첫 챗봇 특화 윤리 가이드라인이라고 소개했다.

가이드라인 제작을 주도한 신기술위원회에는 네이버와 카카오, 심심이, 인공지능 대화형 챗봇 '이루다'를 서비스하는 '스캐터랩', 자연어처리 스타트업 '튜닙' 등 국내 주요 챗봇 개발업체들이 참여했다.

이재신 KISO 신기술위원회 위원장(중앙대 미디어커뮤니케이션학부 교수)은 "변화하는 기술 환경에서도 폭넓은 사회적 공감을 얻을 수 있도록, 앞으로 가이드라인을 지속해서 수정·보완해 나갈 계획"이라고 말했다.

acdc@yna.co.kr

▶제보는 카톡 okjebo