[K스토리] 큐네스티 픽…AI 안전망 구축하는 '세이프티 AI' 스타트업

(서울=연합뉴스) 이세영 기자 = "AI가 사람의 삶을 결정하는 시대가 오고 있습니다. 중요한 것은 AI의 성능보다 안전입니다."

공익법인 임팩트 투자사 큐네스티는 재무적 수익과 사회적 가치를 동시에 추구하는 임팩트 투자를 통해 사회문제 해결에 나서고 있다. 연간 1천500여 개 기업을 검토해 20여 곳 안팎에 투자하며 사회적 가치와 성장 가능성을 함께 평가한다.

큐네스티가 최근 주목한 기업은 AI 안전 운영 인프라 기업 야타브(YATAV)다.

2018년 창업한 야타브는 생성형 AI의 가장 큰 문제로 꼽히는 할루시네이션(Hallucination)과 개인정보 유출, 보안 취약성 문제를 해결하는 '세이프티 AI'(Safety AI) 기술을 개발하고 있다.

최근 은행과 의료기관, 법률 서비스 등에서는 대규모언어모델(LLM)을 활용한 상담과 업무 자동화가 빠르게 확산하고 있다. 하지만 AI는 확률 기반 모델인 만큼 잘못된 정보를 제시하거나 개인정보를 노출할 위험이 존재한다.

실제로 일부 금융권에서는 생성형 AI가 상장폐지 종목을 투자 종목으로 추천하거나 부정확한 정보를 제공하는 사례도 보고되고 있다. 의료 분야에서는 약물 복용량이나 진단 정보가 잘못 안내될 경우 심각한 피해로 이어질 수 있다.

야타브는 이러한 문제를 해결하기 위해 AI 보안 솔루션 'AEGIS'(이지스)를 개발했다. AEGIS는 AI 서비스의 입력과 출력 단계에서 악성 명령어와 개인정보 유출 여부를 점검해 위험 요소를 사전에 차단하는 구조다.

이성찬 야타브 대표는 "AI는 이제 채용과 금융, 의료 등 인간의 삶에 직접 영향을 미치는 결정을 내리고 있다"며 "강력한 기술력으로 인간의 책임을 지키는 것이 회사의 목표"라고 말했다.

야타브는 현재 글로벌 AI 서비스의 안전성을 평가하는 플랫폼도 운영하고 있으며, 오픈소스 기반 보안 솔루션을 공개해 AI 생태계 전반의 안전 수준 향상에도 나서고 있다.

*자세한 내용은 영상을 통해 확인하실 수 있습니다.

<영상 : 이명선 PD> seva@yna.co.kr

▶제보는 카톡 okjebo