"AI거버넌스 구축이 핵심" PwC컨설팅, AI기본법 로드맵 제시

기업 경쟁력의 핵심이 된 인공지능(AI)을 책임감 있게 활용하기 위한 법적 기반이 마련되는 상황에서, 기업이 단순한 규제 준수를 넘어, 자사 AI 서비스 특성에 맞는 체계적이고 실용적인 관리 체계를 선제적으로 수립해야 한다는 제언이 나왔다.

PwC컨설팅은 이 같은 내용을 담은 'AI 기본법 시행, 기업은 무엇을 준비해야 하는가?' 보고서를 발간했다고 19일 밝혔다.

'AI 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'은 내년 1월22일 시행을 앞둔 상황이다. AI 기술의 건전한 발전과 사회적 신뢰 구축을 목표로 하는 법안으로, 내달 입법예고를 거쳐 연내 하위법령 제정을 완료할 예정이다. AI 관련 법안을 제정한 국가는 한국이 유럽연합(EU)의 'AI Act'에 이어 세계에서 두번째다.

AI 기본법 대응 로드맵. PwC컨설팅

보고서에 따르면 AI기본법의 핵심은 '고영향 AI' 개념을 새롭게 도입한 것이다. 고영향 AI는 에너지 공급, 먹는 물 생산 등 11개 핵심 영역에서 사용되는 AI 가운데 '사람의 생명, 신체 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려'가 있는 AI를 의미한다. 고영향 AI 사업자는 고영향 AI의 사전 검토, 사전 고지, 안전성·신뢰성 확보 조치 등의 의무를 이행해야 한다.

또한 AI 기본법은 고영향 AI, 생성형 AI, 대규모 연산량 등을 사용하는 고성능 AI 사업자를 'AI 사용자'로 정의하며 투명성 의무 및 안전성 확보 의무를 부과한다. 보고서는 AI 기본법 대응 과정에서 기업들이 직면할 주요 과제를 ▲AI 위험 관리 체계 구축의 복잡성 ▲AI 학습데이터 및 모델 관리 체계의 부재 ▲이용자 보호 방안 수립의 실효성 확보 등 크게 세 가지로 제시했다. 보고서는 "AI 기본법 대응을 위해서는 단순한 기술적 접근을 넘어 기업의 전략, 조직, 기술, 운영 전반에 걸친 구조적 변화가 필요하다"고 설명했다.

보고서는 'AI 거버넌스 체계' 구축을 핵심 대안으로 제시했다. AI 거버넌스는 단순한 기술 통제 수단이 아니라, 기업 전략·운영·컴플라이언스·리스크 관리가 통합된 전사적 관리 프레임워크다. 보고서는 "AI 거버넌스는 외부 규제에 대응하기 위한 수단이자, 내부적으로는 AI 기술을 전략적으로 활용하고 통제할 수 있는 기업의 핵심 역량으로 돼야 한다"고 강조했다.

AI 기본법에 효과적으로 대응하기 위한 3단계 로드맵으로 ▲AI 기본법에 대한 준비도(Readiness) 진단 및 대응 전략 수립 ▲AI 거버넌스 체계 수립 ▲효율적 AI 거버넌스 실행을 위한 IT 시스템 구축 등을 제시했다.

김진유 PwC컨설팅 AI 트러스트센터장(파트너)은 "AI 기본법 시행을 앞두고 많은 기업이 혁신과 규제 사이에서 방향성을 고민하고 있다"며 "이번 보고서가 AI 기술을 책임 있게 활용하고 신뢰 기반의 AI 경쟁력을 확보하는 실질적인 가이드라인이 되길 바란다"고 말했다.

보고서의 자세한 내용은 PwC컨설팅 홈페이지에서 확인할 수 있다.

김대현 기자 kdh@asiae.co.kr