카카오, kt 클라우드와 안전한 AI 생태계 만든다

‘카나나 세이프가드’ 클라우드에 적용
AI 안전 통합·관리 플랫폼 공동 구축

지난 25일 카카오 판교 아지트에서 열린 협약식 후 카카오 김세웅 AI 시너지 성과리더 (왼쪽)와 kt cloud 공용준 Cloud본부장이 기념촬영을 하고 있다. <카카오>

카카오가 kt 클라우드(cloud)와 손잡고 이용자가 신뢰할 수 있는 인공지능(AI) 기술과 서비스 환경을 만든다.

26일 카카오는 지난 25일 kt cloud와 양해각서(MOU)를 체결하고, 양사의 기술을 결합해 안전한 AI 생태계 구축을 위해 힘쓸 계획이라고 26일 밝혔다.

양사는 카카오의 AI Safety 기술과 kt cloud의 AI 인프라 플랫폼 역량을 바탕으로, AI 서비스의 신뢰성을 높이고 안전한 AI 생태계 조성에 기여할 예정이다.

이번 협약에 따라 양사는 AI 안전 기술의 개발-검증-확장의 3단계를 순차적으로 추진한다.

먼저, 카카오가 자체 개발한 AI 가드레일 모델인 ‘카나나 세이프가드(Kanana Safeguard)’를 포함하여 모델 안전성 평가 시스템, 레드티밍 시스템(Red-teaming System) 등의 ‘AI Safety Tools’를 kt cloud의 AI 플랫폼에 적용한다.

카나나 세이프가드는 AI 서비스의 안전성과 신뢰성을 검증할 수 있는 자체 개발 AI 가드레일 모델로, 현재 카카오의 주요 AI 서비스에 적용되어 있다. 한국어와 한국 문화를 반영한 자체 구축 데이터셋을 활용해 한국어에 특화된 성능을 보유한 것이 특징이다.

이후 단계에서는 실제 고객 사용 사례를 바탕으로 효용성을 검증하고, 지속적으로 기술을 고도화 할 예정이다. 마지막 단계에서는 사용성을 바탕으로 AI Safety Tools를 통합·관리하는 플랫폼을 공동 개발해 생태계를 본격적으로 확장해 나갈 계획이다.

카카오 김세웅 AI 시너지 성과리더는 “카카오의 AI Safety 기술과 kt cloud의 인프라 역량이 만나는 이번 협력이 국내 AI 생태계의 안전성을 한 단계 높이는 계기가 되길 바란다”며 “앞으로도 이용자가 안심하고 사용할 수 있는 AI 환경을 만들기 위해 지속적으로 노력하겠다”고 말했다.