AI안전연구소 ETRI에 내달 개소…"글로벌 AI안전 허브 목표"

AI안전연구소 기능 및 협력체계안. 과기정통부 제공

안전한 인공지능(AI) 개발·확산과 관련 국제 협력을 담당할 AI안전연구소가 내달 중 한국전자통신연구원(ETRI)에 문을 연다. 아태지역을 대표하는 글로벌 AI안전 거점연구소로 자리매김하는 것이 목표다.

과학기술정보통신부는 지난 18일 서울 중구 국가과학기술자문회의에서 제17차 정보통신전략위원회를 열고 AI안전연구소 설립·운영계획을 공유했다. ETRI에 소속된 신규 연구소 조직으로, 판교 글로벌 연구개발(R&D) 센터에 설치해 내달 중 본격적인 활동에 나선다.

이번 계획은 해외 AI안전연구소 현장방문과 국내 AI분야 의견수렴을 거쳐 마련됐다. 미국·영국·일본 등 주요국 AI안전연구소가 AI안전 R&D에 초점을 맞추는 상황에서, 관련 업무수행과 국제공조 등을 위해 R&D 전문기관인 ETRI에 설치하기로 했다는 게 과기정통부의 설명이다.

AI안전연구소는 AI안전 정책·평가·기술분야 3개 연구실로 구성·운영된다. 우선 약 10명 규모로 시작, 이후 총 30여명 연구인력을 확보할 계획이다. 초대소장으로 AI 전문성과 국제적 감각을 보유한 전문가를 내달 중 선임할 예정이다.

AI안전연구소는 AI안전에 대한 과학적 이해 증진, AI 안전정책 고도화 및 안전제도 확립, 국내 AI기업 안전 확보 지원이 3대 핵심 미션이다. △AI위험 정의 및 AI안전 평가 △AI안전 정책 연구 △AI안전 대내·외 협력 △AI안전 확보 위한 R&D 등의 기능을 수행하게 된다.

먼저, 국가 차원에서 관리해야 할 주요 AI위험을 정의하고 AI안전 평가방법론을 개발하는 한편 위험 완화 방안을 마련한다. 안전 평가 데이터셋 구축, 평가도구 개발 등 안전 평가 인프라를 구축하고 기업의 활용을 지원한다. 또한, 주요국과 국제기구의 AI 규범·거버넌스를 연구하고, 국내외 주요 AI위험 정보를 수집·분석해 AI안전정책 고도화를 꾀한다. AI 기술이 경제·사회·일자리 등에 미치는 영향을 분석하고 대응방안 연구도 추진한다. AI안전연구소를 중심으로 산·학·연이 참여하는 AI 안전 파트너십을 구축, AI 안전 정책·기술 분야 연구 협력을 촉진할 계획이다. 글로벌 AI안전 거버넌스의 주요 일원으로서 AI안전 확보를 위해 주요국 AI안전연구소, 국제기구 등과도 긴밀히 협력한다.

AI안전 확보를 위한 R&D도 주요 업무다. AI통제력 상실 대응, AI모델 보안·강건성 강화, 딥페이크 탐지 등 고도화되는 AI위험에 대비해 안전을 확보할 수 있는 R&D를 추진한다.

AI안전연구소는 오는 11월 20일부터 미국 샌프란시스코에서 개최될 '국제 AI안전연구소 네트워크' 행사 참여를 시작으로 본격적인 역할을 수행한다. 국회 정쟁 속에 논의가 지체돼온 AI기본법이 제정되면 이를 근거로 장차 독립기관으로 격상시키는 방안을 고려하고 있다.

유상임 과기정통부 장관은 "향후 1~2년은 우리나라가 AI·디지털 분야 선도국으로 도약할 지 성패가 좌우된는 골든타임"이라며 "클라우드컴퓨팅 도입 전면화, AI안전연구소 출범 등을 속도감 있게 추진해 나갈 수 있도록 관계부처와 적극 협력할 것"이라 말했다.

팽동현기자 dhp@dt.co.kr