"설계부터 안전하게"…18개국 'AI 개발' 가이드라인 체결

미국·영국 주도로 마련, 한국도 서명…"AI 규제 다자합의 첫선"

ⓒ News1 DB

(서울=뉴스1) 김성식 기자 = 챗GPT 열풍으로 정보기술(IT) 기업들의 인공지능(AI) 개발 경쟁에 불이 붙은 가운데 전 세계 18개국이 설계 단계부터 안전성을 담보할 것을 관련 업계에 주문하는 개발 가이드라인을 미국과 영국의 주도로 27일(현지시간) 체결했다.

로이터 통신에 따르면 미국 사이버보안 및 인프라보안국(CISA)과 영국 국립사이버보안센터(NCSC)는 이날 홈페이지를 통해 '안전한 AI 시스템 개발을 위한 가이드라인'이란 문서를 공개했다.

총 20쪽 분량의 문서에는 AI 제품 설계부터 배포에 이르기까지 개발 전 과정은 기술 오용으로부터 인간을 보호하는 방식으로 이뤄져야 한다는 기본 원칙이 수록됐다. 이를 위해 기업들은 △기술 남용 여부를 모니터링하고 △데이터 변조를 방지해야 하며 △소프트웨어 납품업체를 심사하는 한편 △적절한 보안 테스트를 거친 후에만 제품을 출시해야 한다.

가이드라인인 만큼 조약처럼 법적인 구속력이 있는 것은 아니다. 그럼에도 젠 이스털리 CISA 국장은 많은 국가가 AI 안전을 고려해야 한다는 구상에 동참했다는 점을 강조했다. 그는 로이터와의 인터뷰에서 "얼마나 빨리 시장에 출시할 수 있는지 또는 비용을 낮추기 위해 경쟁할 수 있는지에 관한 문제가 아니다"라고 말했다.

그러면서 이스털리 CISA 국장은 "설계 단계에서부터 가장 중요한 것은 보안이라는 데 각국이 동의한 것"이라고 설명했다. 미국과 영국 외에도 한국, 독일, 이탈리아, 체코, 에스토니아, 폴란드, 호주, 칠레, 이스라엘, 나이지리아, 싱가포르 등 18개국이 새 가이드라인에 서명했다. AI 규제 방안을 두고 다자간 합의가 마련된 건 이번이 처음이라고 이스털리 국장은 부연했다.

seongskim@news1.kr