국제인공지능윤리협회, 국내 첫 민간 AI 안전윤리 인증제도 시행

- 'ISO/IEC 42001:2023' 기반 안전성 및 윤리성 평가...‘고도원의 아침편지 AI챗봇’ 첫 인증 획득

[서울경제] 전 세계적으로 인공지능(AI) 기술이 급격히 발전하는 가운데 안전과 윤리 문제가 더욱 부각되고 있다. 각국 정부와 국제 표준화 기구들은 AI 관련 검인증 기준을 제정하고 평가제도를 도입하여 기업들이 윤리적 AI 원칙을 제품에 내재시키도록 유도하고 있는 상황이다.

이러한 글로벌 흐름에 발맞춰 사단법인 국제인공지능윤리협회는 국내 민간기관 최초로 'AI 안전윤리 인증제도'(AI Safety & Ethics Certification)를 시행한다고 15일 밝혔다.

협회는 첫 시범인증 대상으로 ChatGPT의 GPTs 기반의 '고도원의 아침편지 AI챗봇'을 선정해 인증 심사를 실시하고 1호 인증서를 발급했다.

국제인공지능윤리협회가 민간기관 최초로 인증한 ‘고도원 아침편지 AI챗봇’ AI안전윤리 인증서. 사진=IAAE

'고도원의 아침편지 AI챗봇'은 2001년 8월 1일부터 시작된 대한민국 최초의 희망나눔 뉴스레터인 '고도원의 아침편지'를 바탕으로 개발됐다. 이 챗봇은 아침편지의 23년간 축적된 콘텐츠를 활용해 일상과 삶에 관한 상담, 조언, 편안한 대화를 나눌 수 있는 AI 서비스로, ChatGPT의 GPTs 기술을 기반으로 구현됐다.

AI 안전윤리 인증은 인공지능 제품과 서비스를 대상으로 개발 과정과 사용에서 준수해야 할 안전과 윤리에 대한 원칙과 기준을 토대로 평가하는 제도다. 이를 통해 AI의 안전성, 윤리성, 신뢰성을 검증하고 보증한다.

인증 심사는 협회 산하기관인 'AI안전윤리인증센터'가 담당한다. 센터에 소속된 전문 심사원들은 모두 AI 안전윤리에 관한 ISO 국제규격인 'ISO/IEC 42001:2023' 선임심사원(Lead Auditor) 자격을 갖추고 있으며, 협회의 'IAAE AI 안전윤리 인증‘ 전문심사원 자격을 함께 보유한 전문가들이다.

심사 과정은 AI 시스템의 설계부터 개발, 운영, 모니터링 전 과정에 걸쳐 윤리적 가이드라인 준수 여부를 체계적으로 평가한다. 특히 개인정보 보호, 편향성 방지, 투명성, 안전성 등 주요 윤리 항목에 대한 철저한 검증이 이루어진다.

첫 인증을 받은 아침편지문화재단의 고도원 이사장은 "인공지능 시대에 윤리와 안전은 그 어느 때보다 중요한 가치"라며 "아침편지 AI챗봇이 첫 인증을 받게 되어 큰 영광이자 책임감을 느낀다"고 소감을 밝혔다. 그는 "아침편지가 23년간 전해온 희망과 따뜻한 위로의 메시지를 AI 기술을 통해 더 많은 이들에게 전달하고자 챗봇을 개발했다"며 "이번 인증을 통해 사용자들에게 더 신뢰받는 서비스를 제공하고 한국형 챗GPT의 중요한 콘텐츠로 제공할 계획"이라고 말했다.

국제인공지능윤리협회 전창배 이사장은 "협회의 AI 안전윤리 인증제도는 AI 기술의 개발과 사용이 사회적으로 수용 가능한 방식으로 이루어질 수 있도록 보장하는 것이 가장 큰 목적"이라며 "소비자와 사용자들이 인공지능을 안심하고 믿고 사용할 수 있도록 하려는 것"이라고 설명했다. 또한 기업과 공공기관에게도 AI의 안전한 개발과 적용을 지원함으로써 AI 사업에 있어 윤리적, 법적 리스크를 해결하는 데 기여하고자 하는 목적도 있다고 덧붙였다.

협회는 올해 10곳 이상의 기업과 공공기관을 대상으로 시범인증을 진행한 후, 연말부터 본격적인 AI 안전윤리 본인증을 실시할 계획이다. 또한 국내 AI 기업과 산업 환경에 맞춰 자체 개발한 'AI 안전윤리 인증표준'을 공개하여 기업과 공공기관들이 AI 안전과 윤리에 관해 미리 이해하고 대비할 수 있도록 지원할 예정이다.

김동호 기자 dongho@sedaily.com