[K-VIBE] 임기범의 AI혁신 스토리…美 AI 사전검증제 논의, 한국의 과제는

[※ 편집자 주 = 한국국제교류재단(KF)의 2024년 발표에 따르면 세계 한류 팬은 약 2억2천500만명에 육박한다고 합니다. 또한 시간과 공간의 제약을 초월해 지구 반대편과 동시에 소통하는 '디지털 실크로드' 시대도 열리고 있습니다. 바야흐로 '한류 4.0'의 시대입니다. 연합뉴스 동포·다문화부 K컬처팀은 독자 여러분께 새로운 시선으로 한국 문화를 바라보는 데 도움이 되고자 전문가 칼럼 시리즈를 준비했습니다. 시리즈는 매주 게재합니다.]

임기범 서울과학종합대학원 대학교 객원교수 [본인 제공]

최근 미국에서는 인공지능(AI) 모델을 공개하기 전에 정부가 사전 검토하는 방안이 거론되고 있다. 아직 확정된 제도는 아니지만, 미 상무부 산하 국립표준기술연구소(NIST)의 인공지능 표준혁신센터(CAISI)가 오픈 AI·앤트로픽(Anthropic)에 이어 구글 딥마인드, 마이크로소프트, xAI(일론 머스크가 2023년 3월 설립한 인공지능 분야 미국 스타트업 컴퍼니)와 추가로 협약을 맺었다.

CAISI가 이처럼 프런티어 AI 모델에 대한 사전 배포 평가와 사후 평가를 진행하겠다고 밝히면서 논의는 한층 구체화했다. CAISI는 이미 40건 이상의 평가를 수행했고, 그중에는 아직 공개되지 않은 최신 모델도 포함돼 있다고 설명했다.

이 소식을 둘러싼 찬반양론은 팽팽하다. 안보 위협을 막기 위한 불가피한 조치라는 찬성론과 빠르게 진화하는 AI를 정부가 제대로 평가할 수 없어 혁신만 지연시킬 것이라는 반대론이 맞서고 있다. 출시 전 한 번의 검증이 무슨 의미가 있느냐는 지적도 나온다.

AI 모델은 출시 이후에도 계속 업데이트되고, 외부 도구와 연결되며, 추론 능력과 활용 범위가 바뀐다. 사전검증이 자칫 느린 행정 절차로 변하면 안전장치가 아니라 혁신의 병목이 될 수 있다는 우려도 매우 타당하다.

그러나 우리나라 입장에서 이 논의를 그저 미국 내부 규제 논쟁으로만 바라봐서는 부족하다. 미국 정부가 자국 AI 기업을 어떻게 검증할 것인가에 대해 제삼자가 찬성 또는 반대를 말하는 것은 큰 의미가 없다. 우리가 물어야 할 질문은 따로 있다. 미국이 프런티어 AI 모델 평가 체계를 만들고, 그것이 사실상 글로벌 표준처럼 작동하게 될 때 한국 기업과 한국 AI 생태계는 무엇을 준비하고 있는가.

AI 검증은 앞으로 기술 규제이자 시장 접근 규칙이 될 가능성이 크다. 향후 미국에서 특정 수준의 사전 평가와 안전성 문서가 요구되고, 유럽연합도 위험 기반 규제 체계를 운용할 것이다. 각국이 저마다 생성형 AI에 대한 투명성·책임 요건을 높여 간다면 한국 기업은 기술력만으로 해외 시장에 진입하기 어려워질 수 있다.

자동차가 수출될 때 충돌 안전 기준과 배출가스 기준을 맞춰야 하듯 AI 모델도 앞으로는 안전성 평가, 위험관리 기록, 사고 대응 체계, 모델 변경 이력 같은 '검증 서류'를 요구받을 수 있기 때문이다. 이는 새로운 형태의 비관세 장벽이 될 수 있다.

바로 이 지점에서 한국의 '국가대표 AI' 선발전이 중요해진다. 정부가 추진 중인 독자 AI 파운데이션 모델 프로젝트는 민간 경진대회로 볼 게 아니다. 국가 차원에서 독자 AI 모델 개발을 지원하고 정예팀을 선발해 그래픽처리장치(GPU)와 데이터 등을 지원하는 사업이다.

따라서 국가대표 AI 선발전은 단순히 누가 더 높은 성능 점수를 받았는지를 가리는 자리로 끝나서도 안 된다. 국가가 자원과 명칭을 부여하는 순간, 해당 AI는 한 기업의 제품을 넘어 한국 AI 생태계를 대표하는 전략 자산이 된다. 대표 선수를 뽑는다면 기록만 볼 수는 없다. 국제대회에 나갈 자격이 있는지, 부상 위험은 없는지, 경기 운영 능력은 안정적인지까지 함께 봐야 한다.

AI로 말하면 성능뿐 아니라 안전성, 설명 가능성, 사후 감사 가능성, 해외 규제 대응력까지 평가해야 한다는 뜻이다.

특히 국가가 지원하는 AI라면 국내 환경에서의 안전성을 별도로 따져야 한다. 악의적 사용 자체를 모델 단계에서 완전히 차단할 수는 없지만, 한국어 환경에서의 오작동, 공공·산업 영역 적용 시 책임 구조, 오남용을 어렵게 만드는 기본적 안전장치와 사고 발생 이후의 대응 체계를 검토해야 한다.

영어권 벤치마크에서 높은 점수를 받았다고 해서 한국 사회에서 안전한 AI라고 볼 수는 없다.

더 중요한 것은 검증의 시점이다. AI는 출시 전 한 번 평가하고 끝낼 수 있는 제품이 아니다. 모델 성능이 개선되고, 외부 검색 기능이 붙고, 코드 실행이나 파일 처리 기능이 추가되고, 에이전트 방식의 자동 수행 기능이 들어가면 위험의 성격도 달라진다.

따라서 한국형 검증 체계는 '출시 전 허가'보다 '위험 변경 관리'에 가까워야 한다. 국가대표 AI 선발 과정에서도 모델 변경 이력, 주요 기능 추가, 외부 도구 연결, 고위험 영역 활용 가능성에 대한 지속적인 평가 체계가 필요하다.

이는 한국의 AI 기본법 체계와도 맞닿아 있다. 인공지능기본법은 AI 산업 진흥뿐 아니라 고영향 AI에 대한 규율, 투명성 및 안전성 확보, AI 안전연구소 운영 등을 포함한다. 이 법은 고영향 AI 사업자 책무와 안전성·신뢰성 확보를 규정하고 있다.

그러나 법과 조직이 있다는 사실만으로 검증 역량이 저절로 생기지는 않는다. 정부, AI 안전연구소, 대학, 정부출연연구기관, 보안기업, 스타트업, 시민사회가 함께 참여하는 검증 생태계가 필요하다. 정부 혼자 모든 모델을 심사하겠다는 방식은 느리고, 비싸고, 결국 형식화될 위험이 크다.

특히 한국 기업의 해외 진출을 고려하면 검증 체계는 처음부터 국제 호환성을 가져야 한다. 한국에서 평가받은 결과가 미국, 유럽, 영국, 일본 등 주요 시장의 검증 체계와 전혀 연결되지 않는다면 기업은 나라별로 비슷한 평가를 반복해야 한다.

이는 대기업에는 비용 문제일 수 있지만 스타트업에는 생존 문제가 된다. 한국 정부가 해야 할 일은 국내용 인증서를 하나 더 만드는 것이 아니다. 한국 AI 모델이 해외 시장에서 다시 처음부터 검증받지 않도록 평가 항목과 문서 체계, 사고 보고 방식, 위험관리 기준을 국제 규범과 맞물리게 설계하는 일이다.

미국의 AI 사전검증제 논의가 한국에 주는 메시지는 그래서 분명하다. 우리는 미국식 제도를 그대로 따라 할 필요도 없고 무조건 반대할 필요도 없다. 다만 프런티어 AI의 안전성 평가가 앞으로 산업 경쟁력과 시장 접근성을 좌우할 수 있다는 사실은 직시해야 한다. 그리고 그 준비는 먼 미래의 일이 아니라 지금 진행 중인 국가대표 AI 선발전에서부터 시작돼야 한다.

국가대표 AI 선발전은 성능 순위표가 아니라 한국형 AI 검증 체계의 출발점이 되어야 한다. 정부가 지원하는 AI라면 더 높은 기준을 요구받아야 한다. 성능이 뛰어난 AI를 뽑는 것도 중요하지만 안전하게 운용될 수 있고, 지속해 점검될 수 있으며, 해외 시장에서도 통과할 수 있는 검증 기록을 갖춘 AI를 키우는 것이 더 중요하다.

AI 시대의 경쟁력은 더 이상 모델의 성능만으로 결정되지 않는다. 얼마나 빠르게 만들었는지도 중요하지만 얼마나 신뢰할 수 있게 만들었는지가 시장의 문을 열 것이다. 미국의 사전검증제 논의는 남의 나라 규제 뉴스가 아니다. 우리나라가 국가대표 AI를 뽑는 지금, 우리는 어떤 AI를 국가의 이름으로 세계 시장에 내보낼 것인지 묻고 있다.

이제는 하나의 성능 경쟁을 넘어 검증할 수 있고 책임질 수 있으며 국제 기준을 당당히 통과할 수 있는 '안전한 AI'를 국가대표로 키워야 할 때다.

임기범 인공지능 전문가

▲ 서울과학종합대학원 대학교(aSSIST) 객원교수 ▲ 현 AI경영학회 상임이사 겸 학술분과 위원장 ▲ ㈜컴팩 CIO ▲ 전 신한 DS 디지털 전략연구소장

<정리 : 이세영 기자>

seva@yna.co.kr

▶제보는 카톡 okjebo