국가AI전략위, AI 개발 속도 논의…'속도 책임론' 강조

프런티어 AI 기술력과 안전·보안·통제 역량 동시 확보 필요

(지디넷코리아=김동원 기자)국가인공지능전략위원회가 인공지능(AI) 개발 속도를 늦추자는 '속도조절론'과 관련해 한국은 기술 개발을 늦추기보다 프런티어 AI 역량과 안전·보안·통제 기술을 함께 확보해야 한다는 방향을 제시했다.

국가AI전략위는 1일 AI 개발 속도조절론을 주제로 세미나를 열고 국내 대응 방향을 논의했다고 밝혔다. 최근 글로벌 AI 기업을 중심으로 기술 발전 속도를 늦춰야 한다는 주장이 제기되는 가운데 미국과 중국을 비롯한 주요국의 입장이 엇갈리면서 한국의 대응 전략을 논의하기 위해 마련됐다.

전략위가 제시한 방향은 '속도 책임론'이다. 글로벌 기업과의 기술 격차를 좁히기 위한 AI 개발은 계속하되 모델의 위험을 평가하고 문제가 발생했을 때 통제할 수 있는 기술과 제도도 동시에 갖추자는 취지다.

하정우 국가AI전략위 상근 부위원장은 "AI 3강 도약에 있어 안전한 프런티어 AI 역량 확보는 선택이 아닌 필수 사항"이라고 말했다. (사진=지디넷코리아)

이원태 국가AI전략위 보안특별위원장은 주요국의 AI 대응 전략을 소개하며 한국은 프런티어 AI 개발 역량과 안전·보안·통제 역량을 함께 빠르게 확보해야 한다고 강조했다.

프런티어 AI 성능이 빠르게 높아지면서 기존 안전 제도만으로 대응하기 어렵다는 지적도 나왔다. 최대선 숭실대 AI안전성연구센터장은 현재 제도가 활용 영역이나 연산량 등을 기준으로 AI 위험을 관리하고 있지만 범용성과 예측하기 어려운 능력이 커지는 프런티어 AI에는 추가적인 기술·제도적 대응이 필요하다고 진단했다.

산업계에서는 한국이 먼저 개발 속도를 늦출 경우 해외 기업과의 기술 격차가 더 벌어질 수 있다는 우려가 제기됐다. 김성훈 업스테이지 대표는 AI가 초지능을 넘어 스스로 성능을 개선하는 단계로 발전하고 있다며 국내에서 먼저 속도를 조절하면 글로벌 빅테크와의 격차가 고착화될 수 있다고 주장했다.

김 대표는 이에 따라 국내에서도 자기진화형 AI 기술을 확보하면서 글로벌 논의에 맞춰 안전장치를 마련해야 한다는 의견을 제시했다. AI 개발 자체를 늦추기보다 기술 경쟁력과 안전 역량을 함께 확보해야 한다는 것이다.

AI 모델을 외부 기술에 의존하지 않고 국내에서 직접 평가하고 통제할 수 있는 역량도 과제로 제시됐다. 이한울 에임인텔리전스 부사장은 국내 AI 보안 현황을 소개하며 독립적인 모델 평가·통제 능력과 국제 공조를 함께 확보해야 한다고 제언했다.

이어진 토론에는 김명주 AI안전연구소장과 김동환 포티투마루 대표도 참여했다. 참석자들은 글로벌 AI 기업과의 기술 격차를 줄이기 위한 지원책과 첨단 AI 위험 평가·통제, 안전 검증 체계, 기업 부담을 줄이면서 안전성을 확보하는 방안 등을 논의했다.

이번 세미나에는 국가AI전략위 위원과 과학기술정보통신부, 개인정보보호위원회 등 관계부처를 비롯해 AI안전연구소와 한국인터넷진흥원(KISA), 정보통신정책연구원(KISDI), 소프트웨어정책연구소(SPRi) 등에서 70여 명이 참석했다.

하정우 국가AI전략위 상근 부위원장은 "대체 불가능한 글로벌 AI 핵심 공급망 확보와 AI 3강 도약에 있어 안전한 프런티어 AI 역량 확보는 선택이 아닌 필수 사항"이라며 "위원회가 구심점이 돼 범정부 차원의 관련 정책 조율을 지원함으로써 가파른 기술 추격과 선제적 보안 대응이 균형 있게 추진되는 데 앞장서겠다"고 말했다.

김동원 기자(goodtuna@zdnet.co.kr)