카카오, AI 리스크 관리 체계 구축…안전하고 윤리적인 서비스로
정길준 2024. 10. 23. 16:18
카카오는 AI(인공지능) 서비스 운영 과정의 리스크를 관리하는 프로세스를 정의한 '카카오 ASI'를 구축했다고 23일 밝혔다.
카카오 ASI는 AI 기술 개발 및 운영 과정에서 위험 발생을 최소화하고, 안전하고 윤리적인 AI 시스템을 만들기 위한 종합 지침이다.
기술의 설계부터 개발, 테스트, 배포, 모니터링 및 업데이트 등 AI 시스템의 전 생애 주기에서 발생할 수 있는 리스크에 선제적인 대응이 가능한 것이 특징이다.
카카오 ASI는 카카오 AI 윤리 원칙, 리스크 관리 사이클, AI 리스크 거버넌스라는 3가지 핵심 요소로 구성됐다.
카카오 AI 윤리 원칙은 지난해 3월 발표한 '카카오 그룹의 책임 있는 AI를 위한 가이드라인'을 기반으로 한다. 사회 윤리, 포용성, 투명성, 프라이버시, 이용자 보호 등 원칙을 포함한다. 개발자와 사용자를 대상으로 윤리적인 가이드라인을 제공한다.
리스크 관리 사이클은 리스크를 체계적으로 다루기 위한 접근법이다. 식별과 평가, 대응의 순환 단계로 짜였다. AI 기술의 비윤리, 불완전 등을 최소화하고, 안전성과 신뢰성을 확보하는 역할을 한다.
AI 리스크 거버넌스는 AI 시스템의 개발, 배포, 사용 등을 관리·감독하는 의사 결정 체계를 의미한다. 조직 내 정책, 절차, 책임 구조 및 외부 규제와의 조화를 포함하며, 거버넌스 체계 안에서 관련 리스크들을 다각도로 검토한다.
김경훈 카카오 AI 세이프티 리더는 "AI 시스템 이용에 따른 리스크의 발생 주체를 AI와 인간으로 구분하고, 발생 주체별 리스크의 특성을 반영해 평가 및 대응 방안을 마련했다는 점이 타사의 AI 리스크 관리 프레임워크와 차별화되는 점"이라고 말했다.
정길준 기자 kjkj@edaily.co.kr
Copyright © 일간스포츠. 무단전재 및 재배포 금지.
이 기사에 대해 어떻게 생각하시나요?
일간스포츠에서 직접 확인하세요. 해당 언론사로 이동합니다.
- 43년 전 WS서 양키스 잡았던 바로 그 에이스, 후배들 보기 직전 세상 떠났다...발렌수엘라 향년 63
- 맥과이어 70호 가볍게 넘었다...오타니 50호, '역대 홈런볼 최고' 61억원에 낙찰 - 일간스포츠
- 서민정, 오랜만 근황…뉴욕 배경 사진 공개 - 일간스포츠
- [왓IS] ‘먹방’하러 18번 무단이탈…현주엽 “잘못 있다면 책임질 것” - 일간스포츠
- 4차전도 7차전도 "할 수 있습니다, 우승 위해서라면" [KS 인터뷰] - 일간스포츠
- ‘고인 모독 논란’ 유난희, 홈쇼핑 복귀…1년 만 - 일간스포츠
- AOA 출신 권민아, 지민 불화설 언급…”이제 제 갈 길 가겠다” - 일간스포츠
- 챔스 뒤흔드는 ‘돌풍의 팀’…EPL 4위 애스턴 빌라 3연승 질주 ‘깜짝 선두’ - 일간스포츠
- ‘발롱도르는 내 것’ 비니시우스, UCL서 해트트릭 폭발→레알은 0-2서 5-2 대역전승 - 일간스포츠
- 머리 감싸 쥔 이강인, GK 선방에 울었다…PSG, 에인트호번과 1-1 무승부 - 일간스포츠