[로터리] AI 기술과 신뢰 확보

이은주 한국IBM 사장

이은주 한국IBM 사장

[서울경제]

지난해 우리는 생성형 인공지능(AI)이 기업에서 사용하는 데이터에서부터 인력 관리와 운영 모델, 기업 전반의 전략에 이르기까지 기업의 모든 부분에 영향을 미치며 변화를 주도하는 것을 목격했다. 그러나 AI로 인한 비즈니스의 혁신은 이제 시작됐을 뿐이다. 2024년은 AI 기술에 있어 또 다른 중요한 해가 될 것이다. 그리고 신뢰는 기업이 AI를 활용할 때 성공 여부를 가름 짓는 중요한 요소가 될 것이다.

최근 IBM 기업가치연구소는 올해 AI와 관련해 주목할 만한 다섯 가지 트렌드를 담은 ‘2024년 AI 5대 트렌드’ 보고서를 발간했다. 여기서 가장 눈에 띄는 내용은 많은 기업들이 ‘플러스(+) AI’ 전략에서 ‘AI+’ 전략으로 전환하게 된다는 것이다. 이는 기존 비즈니스에 AI를 적용하는 것이 아니라 AI를 기본으로 놓고 비즈니스 전략을 세우는 것을 의미한다. AI를 도입하는 것이 경쟁력 확보를 위해 필수적이지만 일관성 없는 AI 도입은 예산을 낭비하고 실패로 이어지기 쉽기에 아예 처음부터 AI 도입을 염두에 두고 경영전략을 수립한다는 것이다.

다른 하나는 AI가 가진 역량을 효과적으로 이용하고 전략적으로 대응하는 사람들이 그렇지 못한 사람들을 대체하게 된다는 것이다. 올해는 생성형 AI가 조직의 모든 직무와 직급에 영향을 미치게 될 것이다. 기업의 성공적인 AI 도입은 직원들이 재교육을 기꺼이 받아들이고 새로운 역할에 적응할 수 있는지에 달려 있다고 해도 과언이 아니다. 따라서 기업은 믿을 수 있는 AI 거버넌스 체계를 수립해 직원 사이에서 AI에 대한 신뢰를 구축하고 사람과 AI 간의 협업이 원활하게 이뤄지도록 설계하는 것이 필요하다.

세 번째는 생성형 AI 활용이 증가하며 데이터 관리는 정보기술(IT) 부서가 아니라 기업 전체의 문제가 된다는 것이다. 생성형 AI는 환각이나 편향된 정보를 방지하기 위해 신뢰할 수 있는 데이터로 학습돼야 하고 생성형 AI를 활용할 때 기업 내 데이터가 유출되지 않도록 보호돼야 하며 생성형 AI로 인한 사이버 공격이나 민감 정보 유출 등에 철저히 대비해야 하는 등 생성형 AI와 데이터 보호·신뢰 문제는 주요 쟁점이 될 것이다. 이외에도 기업이 급변하는 환경에 적응할 수 있도록 신뢰할 수 있는 운영 모델이 필요하게 되는데 생성형 AI가 다양한 외부 충격에 대한 가시성과 대응력을 제공하게 된다는 것, 생태계를 구축하는 것이 필수적인 경쟁 우위가 될 것이며 이를 위해 생성형 AI의 도입과 고객 신뢰, 윤리적 고민 등이 균형을 이뤄야 한다는 것 등이 보고서에서 주요 시사점으로 다뤄졌다.

올해 생성형 AI가 조직의 성공에 더 큰 영향을 미치게 되겠지만 이와 함께 AI 기술의 잠재력을 활용하면서도 책임감 있고 윤리적인 사용을 보장하는 인간 중심적 접근 방식이 요구될 것이다. 결국 생성형 AI를 도입하면서 ‘신뢰’를 어떻게 확보하느냐가 관건이 될 것이며 비즈니스 리더들은 기술과 신뢰 사이에서 균형을 잡아야 하는 숙제를 안았다.

허진 기자 hjin@sedaily.com