[파이낸셜뉴스] 기업들의 인공지능(AI) 도입이 확산하는 가운데 S2W가 기업 대상 AI 서비스 취약점 진단 사업을 확대한다. 실제 대규모 언어 모델(LLM) 공격 기법과 국제 보안 기준을 적용해 AI 서비스의 보안 취약점을 점검하고, 산업별 특성을 반영한 진단 서비스를 통해 기업의 안전한 AI 도입과 운영을 지원한다.
30일 S2W에 따르면 이번 사업은 다크웹과 텔레그램, 해킹 포럼 등에서 수집한 LLM 공격 기법을 점검 과정에 즉시 적용할 수 있는 S2W 연구팀의 오펜시브 보안 전문성을 기반으로 진행된다. 또 소프트웨어 및 웹 애플리케이션 보안 분야의 국제 비영리 단체 'OWASP'가 제정한 LLM 보안 취약점 기준 'OWASP 톱10 for LLM'을 기반으로 산업별 특수성을 고려한 추가 항목들을 적용해 도메인 적합성을 확보한다.
S2W는 모델, 프롬프트, 데이터, 에이전트 등 AI 서비스를 구성하는 다양한 요소들에 내재된 보안상의 취약점을 진단하며 공격자의 악용 가능성을 검증하고 개선 방안을 제시한다.
S2W는 본 사업 개시와 동시에 최근 국내 대형 금융사의 AI 서비스 취약점 진단 사업을 수주했다. 향후 다양한 산업으로 진출 범위를 넓혀가며 각 산업의 AI 활용 방식과 서비스 구조, 보안 요구사항 등을 종합적으로 반영한 취약점 진단을 제공한다는 방침이다.
양종헌 S2W 통합분석실장은 "자체 개발한 AI 기반 도구에 오펜시브 보안 전문가의 노하우를 결합해 기업이 AI 서비스를 보다 안전하게 도입하고 운영할 수 있도록 실효성 높은 진단 서비스를 제공하고 있다"라고 말했다.
