이로운앤컴퍼니, ‘AI 탈옥 방어 기술’ 세이프엑스에 적용

이로운앤컴퍼니

이로운앤컴퍼니는 숭실대학교 AI 안전성 연구센터와 공동 개발한 생성형 인공지능(AI) '탈옥 공격' 대응 기술을 자사의 AI 보안 솔루션 '세이프엑스'에 탑재했다고 밝혔다. 해당 기술은 연구 개발을 마친 뒤 이로운앤컴퍼니로 기술 이전됐으며, 이번 통합을 통해 보안성과 정밀 탐지 능력이 크게 향상됐다는 것이 회사측의 설명이다.

통합된 기술은 'TAPD'로, 기존의 이분법적 필터링 방식을 개선해 유해성과 탈옥 가능성을 각각 판단하는 구조를 채택했다. 특히 '나빠 보이지만 안전한 템플릿(LUBS)' 기법을 도입해, 과도한 차단 문제를 줄이고 정상 요청의 전달률을 높인 것이 특징이다.

세이프엑스에 적용된 TAPD는 평균 86%의 정확도를 기록했으며, 실시간 서비스 환경에서도 응답 지연률이 0.2% 미만으로 측정됐다. 특히 한국어 환경에서는 97.88%의 탐지 정확도를 보여 국내 AI 서비스 시장에 특화된 기술력을 갖췄다는 평가다.

이로운앤컴퍼니는 "숭실대 AI 안전성 연구센터의 최대선 교수 연구팀과의 산학 협력으로 개발된 TAPD는, 생성형 AI의 오남용 방지를 위한 선제적 기술로 주목받고 있다"며 "해당 기술을 금융, 의료, 공공 등 보안이 중요한 산업 분야에 우선 적용하고, 추가적인 공동 연구를 통해 기능을 고도화할 계획"이라고 말했다.

유진아기자 gnyu4@dt.co.kr