'사이버보안 AI 모델 개발' 네이버 컨소시엄...민감 정보 공유 우려 대안은? 원본 데이터 없이도 AI 개발에 활용 가능...서울대 연구팀 'Privy Bridge' 주목
30여개 기관이 보유한 데이터를 모아 국내 사이버보안 특화 인공지능(AI)을 만드는 사업이 시작됐다. 다양한 기업들의 데이터를 활용하는 만큼 민감한 정보가 다른 참여기관에 노출될 수 있다는 우려도 있다. 관련 해결책으로 원본 데이터를 공개하지 않고 AI 개발에 활용할 수 있는 기술도 거론된다.
9일 관련 업계에 따르면 네이버클라우드가 주관하는 컨소시엄이 이달부터 과학기술정보통신부(과기정통부)의 '사이버보안 특화 AI 파운데이션 모델 개발'에 착수했다.
네이버클라우드와 LG CNS, LG유플러스를 비롯해 샌즈랩, AI스페라 등 보안기업과 서울대, 고려대, 포스텍 등 대학·연구기관 총 32개가 참여한다. 정부는 향후 10개월 동안 엔비디아 B200 GPU 256장을 지원한다.
이번 사업에서 눈에 띄는 것은 데이터 규모다. 컨소시엄은 참여 기업·기관이 가진 약 830테라바이트(TB) 규모의 데이터를 모델 개발에 활용할 계획이다. 830TB는 256기가바이트(GB) 스마트폰 3000여대를 가득 채울 수 있는 규모의 데이터 양이다. 전력과 통신, 금융 등 서로 다른 산업에서 확보한 데이터를 활용하고 실제 현장에서 모델을 검증한다.
보안 AI 입장에서는 다양한 데이터를 다량 확보할수록 유리하다. 현실에서 발생한 공격 흔적과 악성코드, 시스템 운영 과정에서 발생한 정보를 충분히 접해야 실제 공격을 찾아내는 능력도 높일 수 있기 때문이다.
하지만 보안 데이터라는 특성은 부담이 된다. 기업의 보안 데이터에는 외부에 공개하기 어려운 시스템 정보나 공격 흔적 등을 포함할 수 있다. 특히 이번처럼 여러 산업의 30여개 기관이 참여하는 사업에서는 데이터를 어디까지 공유하고 누가 접근할 수 있도록 할 것인지가 중요하다.
이에 컨소시엄에 참여한 서울대학교 백윤흥 교수 연구실이 개발한 'Privy Bridge' 기술이 대안으로 떠오른다. 민감한 원본 데이터를 상대방에게 직접 보여주지 않으면서 필요한 AI 학습이나 분석 등의 연산을 수행할 수 있도록 설계됐다.
이는 데이터를 가진 기업과 AI를 개발하는 기업 사이에 외부에서 들여다볼 수 없는 '보안 작업실'을 하나 두는 방식이다.
데이터를 보유한 기업은 원본을 상대방에게 직접 넘기지 않고, AI 개발자 역시 자신의 모델이나 분석 로직을 모두 공개하지 않는다. 양쪽이 제공한 데이터와 프로그램은 신뢰실행환경(TEE)으로 불리는 격리된 공간 안에서 만나 필요한 작업을 수행한다. 작업이 끝나면 사전에 허용된 결과만 밖으로 내보낸다.
연구실 수준의 기술에만 머물러 있는 것도 아니다. 최근 보안기업 쿤텍은 최근 Privy Bridge를 적용한 데이터·AI 협업 플랫폼 'NEXA 1.0'을 출시했다. 민감정보를 직접 주고받기 어려운 기업들이 데이터를 활용해 공동 분석이나 AI 작업을 수행할 수 있도록 상용화한 것이다.
사이버보안처럼 데이터 자체가 보안 대상인 분야에서 AI를 개발하려면 '좋은 데이터를 얼마나 많이 확보하느냐'와 '그 데이터를 얼마나 안전하게 활용하느냐'를 동시에 해결해야 한다.
서울대는 Privy Bridge를 활용하는 방안을 컨소시엄 구성 당시 사업 제안서에 담은 것으로 파악됐다. 해당 제안서가 통과되면서 서울대 연구팀이 컨소시엄에 합류해 기술 적용 가능성이 높게 평가된다.
네이버클라우드 관계자는 "해당 건은 현재 논의 중인 사항이며 확정된 바 없다"고 말했다.
다만 30여개 기관이 참여한다고 해서 모든 민감 데이터를 서로 공개해야 하는 구조만 가능한 것은 아니라는 게 확인됐다는 평가다.
원본 데이터의 통제권을 각 기관이 유지하면서 필요한 연산만 수행하는 기술이 상용화 단계에 들어오면서 여러 기관이 데이터를 함께 활용하는 AI 개발의 보안 부담을 낮출 수 있는 선택지도 생기고 있다.
