AI안전연구소 연내 출범… "AI안전성 기술·이슈대응 지원 초점"

영국 AISI 채용공고 캡처

정부가 대통령 직속 국가인공지능위원회 구성에 이어 인공지능(AI) 안전성 이슈를 다루는 'AI안전연구소' 설립을 추진한다.

국내 AI 이용자들의 안전한 활용과 AI기업들의 국제적 이슈 대응을 돕는 전담 조직이다.

남철기 과학기술정보통신부 인공지능기반정책과장은 "제정을 추진 중인 AI기본법 관련해 가장 역점을 두는 게 AI안전연구소"라며 "과기정통부 산하 ICT 유관기관 내에 연내 설립해 올 11월 또는 12부터 운영할 계획"이라고 밝혔다.

AI 안전성 이슈는 생성형AI가 불러올 수 있는 부작용과 잠재적 위험을 통제할 수 있어야 한다는 목소리와 함께 국내외에서 갈수록 커지고 있다. 지난해 11월 영국에서 열린 첫 'AI 안전성 정상회의'에선 한국·미국 등 10개국과 유럽연합(EU) 및 글로벌 AI기업들이 고위험 '프런티어AI'에 대한 사전 안전성 테스트에 합의했다. 이어 올해 5월 'AI 서울 정상회의'에선 국내외 주요 AI기업 14개사가 '서울 AI 기업 서약'을 맺고 AI안전연구소 등 각국 안전기관과 협력하기로 했다.

소프트웨어정책연구소(SPRi)에 따르면 각국 AI안전연구소는 평가 프레임워크·도구 개발, 연구정보 공유, 국제표준화 등 AI 안전성 관련 민관협력과 국제교류의 구심점이 될 전망이다. 가장 먼저 영국이 첫 'AI 안정성 정상회의' 개최와 함께 설립을 발표했다.

이어 지난해 12월 미국, 올해 2월 일본이 각각 AI안전연구소를 개소했고 캐나다도 설립 계획을 4월 발표했다.

윤석열 대통령도 지난 5월 'AI 서울 정상회의'에서 "대한민국도 AI안전연구소 설립을 추진해 글로벌 AI 안전성 강화를 위한 네트워크에 동참할 것"이라고 밝힌 바 있다. 현재 관계기관들이 예산 관련 논의를 포함해 설립을 준비 중이다.

앞서 과기정통부는 설립 준비를 위해 영국·미국·일본 등의 AI안전연구소를 현지 조사했다. 과기정통부에 따르면 이들 기관은 규제기관 성격보다는 AI 안전성에 대한 기술적인 지원을 맡는다는 공통점이 있다. AI안전성 관련 국가 간 상호운용성도 맡는다. 국내에 설립될 AI안전연구소도 이 같은 연구와 지원에 중점을 두고, 글로벌 흐름과 보조를 맞추며 평가·인증 등의 기능을 확대해 나갈 것으로 예상된다.

어느 기관에 설치할 지는 아직 정해지지 않았다. 당초 한국전자통신연구원(ETRI)이 될 것으로 알려졌지만, 유치를 희망하는 기관이 여럿이고 각자 장단점이 있어 계속 논의 중인 상황이다. 이달 말 또는 내달 초 열리는 국가AI위원회 첫 회의 때 그 윤곽이 드러날지도 아직 미지수다. AI기본법 제정 진행상황도 영향을 미칠 수 있을 것으로 보인다.

박상욱 대통령실 과학기술수석은 "어느 곳이 AI안전연구소의 초기 성장에 가장 좋은 토대를 제공할 지 보고 있다"며 "안전은 AI의 경쟁력이다. 기술 혁신을 위한 진흥과 AI규범 기반 규제를 균형 있게 가져가야 할 것"이라고 설명했다.

AI 안전성이 AI분야 새로운 통상장벽이 될 수 있는 만큼 AI안전연구소에 대한 각국 투자도 활발하다. 최근 영국 과학혁신기술부(DSIT)는 AI안전연구소(AISI) 시니어 프롬프트 엔지니어 채용공고에서 급여를 수당 포함해 6만5000~13만5000파운드(약 1억1351만~2억3575만원)로 제시했다.

국내 AI기업들도 AI안전연구소 설립에 관심을 쏟고 있다. 하정우 네이버 퓨처AI센터장은 소셜미디어(SNS)를 통해 "글로벌 AI 국가 경쟁이 안전을 명분으로 돌아가고 있다"며 "AI안전연구소를 국가안보의 최전선 기관으로 보고 역량결집이 필요한데, 영국의 이런 투자가 좋은 참고가 되겠다. '우리는 우리 사정이 있으니'처럼 편하게 생각할 때가 아니다"라고 말했다.팽동현기자 dhp@dt.co.kr