"AI 해킹 막아라"…정부, 오픈AI와 보안 협력 강화

-오픈AI GTAC 프로그램 참여

류제명 과학기술정보통신부 제2차관(오른쪽 첫번째)이 26일 오후 서울 영등포구 ThreeIFC 회의실에서 제이슨 권 오픈AI CSO를 만나 AI 보안위협 대응 등 협력방안을 논의했다. 과기정통부 제공

[파이낸셜뉴스] 최근 고성능 인공지능(AI)의 사이버 공격 악용 우려가 커지는 가운데 정부가 오픈AI와 AI 보안 협력 강화에 나섰다. 한국이 일본과 함께 아시아에서는 처음으로 오픈AI의 정부·기관용 보안 프로그램(GTAC)에 참여하면서, AI 기반 사이버 위협 대응 역량 확보에 속도가 붙을 전망이다.

과학기술정보통신부는 지난 26일 오픈AI와 AI 보안위협 대응 및 AI 안전·신뢰 확보를 위한 간담회를 개최했다고 27일 밝혔다. 이날 회의에는 류제명 과기정통부 제2차관과 제이슨 권 오픈AI 최고전략책임자(CSO) 등이 참석해 AI 보안 협력 방안을 논의했다.

이번 간담회에서 가장 주목되는 부분은 한국의 GTAC 참여 공식화다. GTAC는 오픈AI가 정부·공공기관을 대상으로 운영하는 신뢰 기반 접근 프로그램으로, 참여 기관은 최신 고성능 AI 모델에 대한 접근 권한을 확보할 수 있다.

오픈AI에 따르면 한국의 GTAC 참여는 일본과 함께 아시아 최초 사례다. 국내에서는 한국인터넷진흥원(KISA)가 실무 수행 기관을 맡을 예정이다.

정부는 이번 협력을 계기로 AI 모델의 사이버보안 활용 방안을 본격 검토할 계획이다. 최근 생성형 AI가 단순 업무 지원을 넘어 취약점 분석과 공격 코드 생성 등 사이버보안 영역에서도 빠르게 활용되면서, 글로벌 차원의 AI 보안 공조 필요성이 커지고 있다는 판단이다.

특히 최근에는 고성능 AI 모델이 스스로 보안 취약점을 탐색하거나 공격 시나리오를 설계할 가능성에 대한 우려도 확대되고 있다. 이에 따라 각국 정부와 빅테크들은 AI 안전성과 통제 체계 구축 논의를 강화하는 분위기다.

양측은 AI 안전성 확보를 위한 협력 확대 방안도 논의했다. 과기정통부는 AI안전연구소와 오픈AI 간 공동 연구 및 안전성 평가 협력 체계 구축을 제안했고, 오픈AI 역시 이를 적극 검토하기로 했다.

류제명 과기정통부 제2차관은 "이번 오픈 AI와의 협력성과로 한국이 AI 보안위협을 사전에 대비할 수 있는 토대가 마련됐다"며 "과기정통부는 앞으로도 글로벌 AI 기업과 적극적인 협력과 실무 논의를 통해 국내 AI 보안 역량을 제고하겠다"고 말했다.

yjjoe@fnnews.com 조윤주 기자