오픈AI, 새 보안특화 모델 공개…'데이브레이크' 보안계획 재편

(샌프란시스코=연합뉴스) 권영전 특파원 = 인공지능(AI)발 보안 위협이 커진 상황에서 오픈AI가 보안 특화 모델을 내놓고 관련 지원 프로그램 재편에 나섰다.

오픈AI는 사이버 보안 계획 '데이브레이크'를 방어 목적별로 구분해 '데이브레이크 레드'와 '데이브레이크 블루'의 두 등급으로 나눈다고 10일(현지시간) 밝혔다.

데이브레이크 레드는 보안 특화 모델에 대한 직접적인 접속권이 보장된 등급이고, 데이브레이크 블루는 최상위 범용 모델인 'GPT-5.6 솔'에서 보안 맞춤형 안전장치를 완화해 취약점 탐지와 악성코드 분석 등을 수행하도록 한 등급이다.

오픈AI는 "공격자가 대규모로 공격형 AI 기능을 배치하기 전에 신뢰할 수 있는 전 세계 방어자들에게 첨단 지능을 제공하기 위한 것"이라고 이번 개편의 목적을 소개했다.

이와 함께 오픈AI는 '레드' 등급에서 이용할 수 있는 새 보안 특화 미세조정(파인튜닝) 모델 'GPT-5.6 사이버'를 새로 선보였다.

GPT-5.6 솔을 기반으로 구축된 이 모델은 보안 작업 시 불필요한 '거부 반응'을 줄이도록 특화 훈련해 보안 취약점 탐지와 이에 대한 보완 패치 등을 만드는 데 최적화했다.

오픈AI가 자체 실시한 고난도 사이버 보안 평가 결과를 보면 GPT-5.6 솔 모델은 보안 관련 질문의 1.5%에만 답변한 반면, GPT-5.6 사이버는 요청 95%에 답변을 완료했다. 이전 세대 모델인 GPT-5.5 사이버(57.3%)보다도 높은 점수다.

오픈AI는 이 모델을 이용해 모바일 운영체제(OS)의 취약점 5건과 데이터베이스 취약점 3건, 널리 사용되는 OS 구동 영역(커널)의 취약점 약 400건을 발견했다고 전했다.

특히 구글의 웹브라우저 크롬에서 자바스크립트를 구동하는 엔진의 취약점도 2건 발견해 구글에 통보했으며, 구글이 곧바로 이 취약점을 수정했다고 회사 측은 덧붙였다.

오픈AI는 자체 안전 기준 평가를 거친 결과 'GPT-5.6 사이버'는 '위험'(Critical) 등급에 미치지 않는 '높음'(High) 등급을 받았다고 설명했다.

방어자의 취약점 보완 활동을 도울 뿐 자율적인 해킹 공격을 수행하기는 어려우리라는 것이다.

오픈AI는 또 'GPT-5.6 사이버'가 최근 AI발 보안 위협의 시작점이었던 '허깅페이스 해킹 사건'과 무관하다고 밝혔다.

앞서 오픈AI는 출시가 예정됐던 차세대 AI 모델 '아스트라'가 자체 안전 기준상 '위험' 수준에 도달했을 가능성이 있는 것으로 판단해 개발 속도를 늦추기로 한 바 있다.

comma@yna.co.kr

▶제보는 카톡 okjebo

국제