한국판 AI 안전 연구소 설립…"AI 딥페이크·딥보이스, 국제 공조로 해결"

한·영 합동 브리핑서 공식화…"AI 부작용 신속, 체계적 대응"

(서울=뉴스1) 서장원 기자 = 올해 안으로 한국판 '인공지능(AI) 안전 연구소'가 설립된다. 'AI 서울 정상회의'에서 채택된 '서울 선언'의 후속 조치 중 하나로, 글로벌 AI 안전성 강화를 위한 네트워크에 동참하겠다는 의지다.

이종호 과학기술정보통신부 장관은 22일 AI 서울 정상회의 및 AI 글로벌 포럼 관련 합동 브리핑에서 "연내 한국에 AI 안전 연구소를 설립할 것"이라고 말했다.

정상회의 첫날 정상세션에서 윤석열 대통령이 "대한민국 AI 안전 연구소 설립을 추진하겠다"고 밝힌 바 있는데, 이를 공식화한 것이다.

AI 안전 연구소는 안전하고 신뢰성 있는 AI 서비스를 내기 전 어떤 형태로 AI의 안정성을 테스트할지에 관한 고민을 풀어주는 역할을 담당한다. 공식적으로 AI 안정성을 인증하는 기관인 셈이다.

전 세계 주요국이 AI 안전 연구소 설립에 나서는 추세다. 이번 AI 정상회의를 공동 주재한 영국을 비롯해 미국, 일본 등이 AI 안전 연구소를 설립해 평가 체계와 평가 기준의 조사, 연구, 개발 등을 진행하고 있다.

이 장관은 "AI의 발전으로 딥페이크, 딥보이스와 같은 스미싱 범죄가 늘어날 것으로 예상됨에 따라 이를 예방하고 신속, 체계적으로 대응하자는 것이 설립 취지"라고 설명했다.

정부는 우선 최소한의 필요 인력을 구축해 한국전자통신연구원(ETRI) 내 연구소를 설립한 뒤 대응해야 할 범위가 넓어지면 ETRI 산하 혹은 과기정통부 산하 등 큰 규모의 기관으로 발전시킬 계획이다.

연구소 효용 범위에 관해서는 AI 안전에 위협되는 부작용이나 종류가 다양한 만큼 국제적 공조를 통해 만들어 나가겠다는 입장이다. AI 기술이 빠르게 진화하고 고도화되는 시점에서 AI 안전 연구소를 통해 관련 문제에 신속하게 대처하는 방안을 마련하겠다는 것이다.

이 장관은 "장관 세션에서 AI 안전 연구소를 통해 국제사회와 어떤 방식으로 소통하고 협력해 AI 안전성에 대응할지 논의했다"면서 "(이와 별개로) AI를 활용한 범죄를 걸러낼 수 있는 기술과 처벌 규정이 담긴 법도 만들어져야 한다"고 강조했다.

superpower@news1.kr

IT