"글로벌 AI 안전 주도"…정부, AI안전연구소 운영 전략 공유

3대 핵심미션·4대 주요기능 발표…내달 20일 美 '국제 AI안전연구소 네트워크' 참석

(지디넷코리아=김미정 기자)정부가 내달 설립 예정인 '인공지능(AI)안전연구소' 운영 계획을 공유하고 의견을 수렴했다.

과학기술정보통신부는 18일 서울 중구 국가과학기술자문회의 대회의실에서 '제17차 정보통신전략위원회'를 열었다. 이 자리에서 AI안전연구소 비전을 '아태지역을 대표하는 글로벌 AI안전 거점연구소'으로 설정하고 인력 확보·핵심 기능·주요 일정에 대한 사안을 발표했다.

우선 정부는 11월 AI안전연구소를 개소할 예정이다. AI안전연구소는 내달 20일부터 미국 샌프란시스코에서 개최될 '국제 AI안전연구소 네트워크' 행사 참여를 시작으로 본격적인 역할을 수행할 계획이다.

부는 아태지역을 대표하는 글로벌 AI안전 거점연구소 구현을 AI안전연구소 비전으로 설정했다. (사진=오픈AI)

AI안전연구소는 한국정보통신연구원(ETRI)에 소속된 신규 연구소 조직으로 설치된다. AI안전 정책·평가·기술분야의 3개의 연구실로 운영된다. 현재 연구소 초대소장으로 AI 분야 전문성과 국제적 감각을 보유한 전문가를 채용하기 위한 절차를 진행 중이다. 이를 통해 연구 인력 30명을 확보할 계획이다. 사무실은 AI 판교 글로벌 연구·개발(R&D)센터에 설치된다.

정부는 아태지역을 대표하는 글로벌 AI안전 거점연구소 구현을 AI안전연구소 비전으로 설정했다. 3대 핵심미션으로 ▲AI안전에 대한 과학적 이해 증진 ▲AI안전 정책 고도화 및 안전제도 확립 ▲국내 AI기업의 안전 확보 지원을 추진한다.

앞서 정부는 올해 5월 'AI서울정상회의'를 개최해 글로벌 AI거버넌스 정상급 선언문인 '서울선언'을 도출했다. 지난달 AI G3로 도약하기 위해 대통령 중심으로 범국가적 혁신역량을 결집하는 민관 협업 기반 최고위 거버넌스인 국가인공지능위원회를 설립했다.

이에 대한 연장선상으로 정부는 AI서울정상회의 개최국으로서 서울선언 규범 가치를 확산하기 위한 핵심 후속조치로 AI안전성을 평가‧연구하고, 주요국 AI안전연구소와 협력을 전담하는 조직인 AI안전연구소 설립을 추진한다. AI안전연구소 운영을 통해 안전한 AI 개발·활용을 확산하고, AI 안전에 대한 국제적 연대 강화와 규범 정립을 수행하며, 중장기적으로 세계적 AI안전 연구를 선도하는 기관으로 발전시킬 계획이다.

그간 정부는 미국과 영국, 일본 등  AI안전연구소를 현장방문해 각국 연구소의 성격과 역할, 안전 평가방식, 연구소 운영방안 등을 심층 분석한 바 있다. AI안전연구소 설립자문위원회와 설립준비위원회 운영을 통해 국내 AI분야 전문가 의견을 폭넓게 수렴했다. 이를 통해 연구소 비전, 세부기능 과 운영방안을 도출했다.

11월 모습 드러내는 AI안전연구소, 핵심 기능은?

과기정통부는 AI안전연구소가 4가지 핵심기능을 수행할 계획이라고 밝혔다.

AI안전연구소 기능과 협력체계. (사진=과학기술정보통신부)

우선 연구소는 AI위험을 정의하고, AI안전을 평가할 방침이다. 국가차원에서 관리해야 할 주요 AI위험을 정의하고, AI안전 평가방법론 개발과 위험완화 방안을 마련한다. AI안전 평가데이터셋 구축과 평가도구 개발 등 AI안전 평가인프라를 구축하고, 기업 활용을 지원할 계획이다.

AI안전연구소는 AI안전 정책을 연구할 방침이다. 주요국·국제기구의 AI 규범·거버넌스를 연구하고, 국내외 주요 AI위험 정보를 수집·분석함으로써 AI안전 정책을 고도화할 예정이다. AI 기술이 경제·사회·일자리 등에 미치는 영향을 종합적으로 분석하고 대응 방안 연구도 추진할 계획이다.

과기정통부는 해당 연구소가 AI안전 대내외 협력을 수행할 것이라고 설명했다. AI안전연구소 중심으로 산학연이 참여하는 AI안전 파트너십을 구축한다. 이를 통해 AI안전 정책·기술 분야 연구 협력을 촉진할 계획이다. 글로벌 AI안전 거버넌스의 주요 일원으로서 AI안전 확보를 위해 주요국 AI안전연구소, 국제기구 등과 협력할 예정이다.

연구소는 AI안전 확보를 위한 R&D도 추진한다. AI 통제력 상실 대응, AI모델의 보안·강건성 강화, AI 딥페이크 탐지 등 AI위험에 대비해 안전을 확보할 수 있는 R&D를 추진한다.

과기정통부 유상임 장관은 "향후 1~2년은 우리나라가 AI, 디지털 분야 선도국 도약의 성패를 좌우할 수 있는 골든타임으로 정부와 민간이 힘을 합쳐 모든 역량을 총결집 해야할 때"라며 "클라우드컴퓨팅 도입 전면화, AI안전연구소 출범 등 논의된 내용들을 속도감있게 추진해 나갈 수 있도록 관계부처와 적극 협력해 나갈 것"이라고 밝혔다.

김미정 기자(notyetkim@zdnet.co.kr)