KISA, AI 보안 가이드라인 내놓는다

김성훈 KISA 정책연구팀장이 11일 서울 용산 전쟁기념관에서 열린 'KISA 사이버보안 성과 발표회'에서 AI 보안 가이드라인 준비상황에 대해 발표하고 있다. 팽동현 기자

한국인터넷진흥원(KISA)이 정보보호에 초점을 맞춘 인공지능(AI) 보안 가이드라인을 내년 내놓을 전망이다. ISMS-AI 등 AI 보안 기준도 추가로 마련할 예정이다.

KISA가 11일 서울 용산구 전쟁기념관에서 개최한 '사이버보안 성과 발표회'에서 김성훈 KISA 정책연구팀장은 '안전한 AI 개발 및 이용을 위한 보안 모델 연구'를 주제로 발표하며 "민간과 함께 연구와 논의를 통해 AI 보안 가이드라인을 준비하고 있다"고 밝혔다.

정부의 AI 관련 가이드라인은 △과학기술정보통신부 '신뢰할 수 있는 인공지능 개발 안내서' △국가정보원 '챗GPT 등 생성형AI 활용 보안 가이드라인' △금융위원회 '금융분야 인공지능 가이드라인' △개인정보보호위원회 AI 단계별 6대 가이드라인(비정형데이터·합성데이터·공개정보·이동형영상기기, 내년 생체인식정보·투명성확보 추가) 등 이미 여럿 존재한다.

그럼에도 KISA가 AI 보안 가이드라인을 준비하는 이유는 민간영역의 사이버보안을 책임지는 기관이기 때문이다. 증대하는 AI 기반, AI 대상 사이버위협에 대응한다는 게 KISA의 설명이다. KISA가 속한 과기정통부의 가이드라인이 AI 개발 과정에서의 신뢰성 확보를 위해 AI개발사에 기술적 요구사항과 점검사항을 제시하는 것인 반면, KISA가 새롭게 내놓을 가이드라인은 외부 침해·위협행위로부터 서비스 제공사나 이용자를 보호하는 방안을 이들과 AI개발사에 제시하는 데 중점을 둔다.

레거시 시스템의 보안 검증은 일회성인 반면, AI 모델은 지속적으로 학습하므로 주기적인 보안 검증이 요구되는 점도 이유로 꼽았다. 기존 시스템과 달리, AI 학습과정에서 데이터가 계속 쌓이는 구조이므로 이를 검증하는 절차가 필요하다는 것이다.

KISA에 따르면 현재 준비 중인 AI 보안 가이드라인은 과기정통부 AI 신뢰 가이드라인(7종)의 구성은 유지하되 보안성에 집중한다. 주요국 AI 보안 프레임워크 등을 참고해 국내 실정에 맞는 AI 보안 프레임워크를 마련한다는 방침이다. AI 개발자에겐 AI 개발 생명주기별, AI 서비스 제공자에겐 서비스 제공주기별 보안 요구사항 및 점검항목을 제시할 예정이다. 이를 기반으로 AI 점검항목을 추가한 정보보호 관리체계 인증(ISMS-AI)도 만든다는 구상이다.

김 팀장은 "아직 지금 완성 단계는 아니고, 민간 보안 담당자들과 실제 적용될 사업자들과 계속 다듬어나가고 있다"며 "내년 KISA는 AI 보안 선도를 위한 안전 기반 확보와 산업 육성 등을 위한 정책들을 계속 추진할 계획이다. AI 보안 전략이 국가 전략화가 될 수 있도록 노력하고, 이를 민간과 함께 만들어갈 수 있도록 보안 포럼도 마련할 것"이라 말했다.팽동현기자 dhp@dt.co.kr