생성형AI,보안시장엔 양날의 칼… "우회공격·기밀유출까지 막아내라" [AI챗봇 경쟁 가열]

개인정보 유출·저작권 침해부터
보안 취약점 찾아내 공격하기도
업계, 다양한 방어체계 구축 나서

생성형AI,보안시장엔 양날의 칼… "우회공격·기밀유출

최근 챗GPT 등 생성형 인공지능(AI) 열풍으로 국내 정보보안 업체들도 보안체제 구축에 속도를 내고 있다. AI를 접목한 보안기술을 준비 중인가 하면 AI를 토대로 한 다양한 형태의 공격을 방어하기 위한 보안체계 구축에 나섰다.

16일 업계에 따르면 챗GPT처럼 문장과 영상을 만드는 생성형 AI는 편리성 때문에 이용이 빠르게 확산되는 가운데 보안 시장에 양날의 칼로 작용할 전망이다. 챗GPT를 활용해 보안시스템을 무력화할 수 있는 취약점을 찾아내고 이를 공격할 수 있는 코드 작성까지 가능해졌다. 보안업계 입장에선 새로운 기회이자 개인정보 유출, 저작권 침해 등 새로운 위협에 직면한 셈이어서 관련 대응에 나섰다.

이글루코퍼레이션은 AI 기술력을 기반으로 챗GPT와 연계해 사이버 위협에 대한 AI의 분석을 제공하는 AI 탐지모델 서비스 '이글루XAI'(가칭)를 개발했다. 현재 일부 보안관제 사이트를 대상으로 시범서비스 중이며 오는 7월 일반고객을 대상으로 정식 출시할 예정이다.

이글루XAI는 △AI가 어떤 기준에 따라 특정 행위를 이상·정상으로 탐지했는지를 알려주는 '설명 가능한 AI' 기술 △기존 콘텐츠에 대한 학습을 토대로 새로운 콘텐츠를 만들어내는 '생성형 AI' 기술이 적용됐다. 이글루코퍼레이션 관계자는 "정상 AI 서비스를 악용한 우회공격, 적대적 공격 등에 대한 방어방법 등도 연구 중"이라고 설명했다.

디지털저작권관리(DRM) 기술에 강점을 둔 파수는 챗GPT 흥행에 맞춰 기업용 AI 서비스인 'F-PAAS'(가칭)를 내년 초 출시하고 기존 DRM 기술도 강화한다는 전략이다. 챗GPT로 인해 기업기밀 유출 등의 문제가 떠오르면서 기업용 거대언어모델(LLM) 수요가 있다는 판단에서다. 파수 조규곤 대표는 최근 기자간담회에서 "파수는 기업환경에서 쓸 수 있는 언어모델을 만들고 각 개별 기업이 필요한 지식을 그 위에 얹으려고 한다"며 "오리지널 콘텐츠를 생성형AI를 활용해 새로운 저작물을 만들면 저작권은 누구에게 있는 것인지 등의 문제가 생겼는데, 저작권법이 개정될 때까지 마냥 기다리고만 있을 순 없다"며 기존 DRM 솔루션과 문서관리 플랫폼 '랩소디'의 고도화 계획을 밝혔다.

네트워크 접근제어 솔루션(NAC) 부문을 앞세운 지니언스의 행보도 주목된다. 박종선 유진투자증권 애널리스트는 지니언스에 대해 "안정적인 NAC 사업 속에서 제로 트러스트 네트워크 액세스(ZTNA) 시장 확대 수혜를 입을 것"이라고 전망했다. 제로 트러스트란 '아무것도 신뢰하지 않는다'는 것을 전제로 하는 사이버보안 모델을 의미한다.