[전문가기고] AX 시대, AI 거버넌스가 중요하다

윤종인 법무법인 세종 고문.

전 세계는 또다시 산업의 패러다임 대전환을 이야기하고 있다. 전 산업의 디지털화가 촉진되었던 DX(Digital Transformation)를 넘어 전 산업이 인공지능(AI)을 중심으로 움직이는 AX(AI Transformation) 시대가 도래했다. AI가 가지는 무궁무진한 활용잠재력과 이를 통한 차별가능한 혁신의 창출이 미래 지속가능한 경제산업 발전을 이루는 핵심 축이 될 것이라는 점은 이제 누구도 부인하기 어려운 상황이다.

2022년 11월 오픈AI의 챗GPT가 출시된 이후 전례 없는 속도로 발전과 혁신을 이루어 내고 있는 AI는 기술과 사회, 경제, 문화 등 전방위적 영역에 영향을 미치며 우리 일상을 뒤흔들고 있다. 직장에서 학교에서, 그리고 집에서 수시로 AI의 등장을 경험하면서, 우리는 이제 AI가 단순한 도구나 기술 혹은 실체 없는 비즈니스 트렌드가 아니라는 것을 절감한다. AI는 산업 생태계를 지탱하는 인프라가 되고 있고, 산업과 사람을 연결하는 플랫폼 역할을 수행하고 있다. 기업 비즈니스, 의사결정, 문화의 맥락에 AI를 적용하는 것은 전 세계적으로 거스를 수도 없는 거대한 흐름이 됐다. AX를 준비하는 우리의 자세가 달라져야 하는 이유다.

실제 통신, 금융, 유통, 제조 등 다양한 산업에서 AI를 활용해 새로운 가치 창출을 시도하는 AI 활용기업이 큰 폭으로 늘어나고 있다. 통계개발원이 국내 50인 이상, 자본금 3억원 이상 기업을 대상으로 실시한 '4차 산업혁명 관련 신기술 도입 영향 요인' 조사 결과에 따르면, AI 기술 개발 및 활용기업 수가 2017년 174개사에서 2021년 539개사로 209.8% 증가했다. 이는 로봇(158.3%), 클라우드(156.6%), 빅데이터(107.5%)에 비해 훨씬 높은 수치다. 본 조사는 3년 전에 이루어진 것이지만, AI의 도입이 산업 간 경계가 지워진 역동적인 경쟁의 세계에서 생존하기 위한 필수 조건이 되어가고 있는 산업 생태계 상황에 비추어 볼 때, 현재 시점의 AI 도입 및 활용률은 더욱 높을 것이다.

문제는 AI를 활용하거나 활용을 준비하는 조직에 장밋빛 미래만 존재하는 것은 아니라는 점이다. 그 이면에는 AI 기반 혁신의 성패를 좌우할 AI 리스크 역시 엄연히 도사리고 있음을 명심해야 한다. 사실, AI 기반 혁신의 성공 여부는 AI 리스크를 사전에 얼마나 신속하고 정확하게 예측 또는 탐지하고, AI 리스크가 실제로 노출되었을 때 이를 어떻게 효율적으로 통제하고 복구할 수 있는지에 달려 있다. AI 전생애주기에 대한 지속적 모니터링을 통해 AI 적용 단계별로 발생 가능한 위험요소를 식별해 제거하고, AI 리스크에 탄력적으로 대응해 신속하게 평상시 상태로 회복하거나 새로운 기회로 전환하는 AI 레질리언스(resilience)가 기업의 필수능력이 돼야 한다. 그리고 이를 위해서는, 무엇보다 기업과 조직의 실정에 맞는 체계적이고 탄력적인 AI 거버넌스 구축이 필연적이다.

하지만 AI 리스크는 AI 활용기업이 단독으로 쉽게 대응할 수 있는 일은 아니다. 안전하면서도 혁신적인, 그리고 포용적인 AI 규범을 확립하기 위해 유럽, 미국 등 해외 주요국이 AI 거버넌스 구축과 관련된 글로벌 차원의 논의를 이끌어가는 이유기도 하다. AI 거버넌스는 국가 혹은 기업이 예측하기 어려운 AI 리스크를 사전 예방할 수 있는 기본 원칙으로 AI의 신뢰성과 책임성을 확립하는 것에서 출발한다. 여기에는 국가와 기업이 함께 하는 투트랙(two-track) 전략이 필요하다. 국가 차원에서 글로벌 AI 규범을 정립하는 시도를 지속하는 것에 더해 기업 차원에서도 전 세계적으로 논의되는 AI 거버넌스 구축 원칙과 윤리 규범, 그리고 기업의 비즈니스 특성을 유기적으로 연계한 AI 거버넌스를 구축하는 작업을 수행해야 한다.

우리나라 역시 AI 산업의 기본 틀을 정할 AI 기본법을 제정하는 등 정부 주도의 일련의 규범 정립(rule setting)과 별개로 수많은 기업이 나서서 각 산업의 특성을 고려한 AI 거버넌스를 구축하는 작업을 수행하고 있다. 최근 AI 거버넌스 계획을 발표한 SK텔레콤 사례는 이러한 흐름에 비춰 주목할 만하다. 즉, 'by Telco(통신 기반의 특성), for Humanity(다양성과 포용, 인류 복지 증진이라는 목표), with Ethics(윤리적 책임성 가치) AI'라는 큰 방향성 하에 세부 거버넌스 원칙을 제시했는데, 이는 국제적인 규범을 반영하면서도, 기업과 업(業)의 특성에 부합하는 AI 거버넌스 원칙과 실천의지를 제시했다는 점에서 유용한 선도 사례로 볼 수 있다.

AI의 긍정적 가치를 최대한 높일 수 있는 안전하고 지속 가능한 AI 생태계에는 AI 기본 원칙을 정립하고 이를 원활하게 작동시키는 AI 거버넌스가 핵심이다. 한 단계 더 진일보한 일반 AI(AGI)의 등장으로 예기치 못한 위험과 피해가 야기될 수 있다는 우려도 제기되고 있는 상황에서, 자신의 상황에 대한 충실한 이해를 전제로 AI 거버넌스를 발 빠르게 구축해 AI 리스크를 최소화하는 노력은 해당 기업의 고객 우선주의의 또 다른 표현이라고 볼 수 있다. AI가 재앙이 아닌 인류의 가장 위대한 도구로 평가될 수 있도록 분명한 AI 철학을 토대로 안전성과 보완성, 그리고 통제성이 강조되는 안전장치를 마련하려는 대한민국 선도 기업들의 역할이 더욱 기대된다.

윤종인 법무법인 세종 고문 jiyoon@shinkim.com