[KCSF2024] AWS "아마존 베드록으로 쉽고 안전하게 생성형AI 도입"

고성능 파운데이션 모델을 단일 API로 제공...인프라, 맞춤형 칩, AI어시스턴트로 활용성↑
오는 26일 아이뉴스24 개최 KCSF2024에서 사례 발표

[아이뉴스24 윤소진 기자] 아마존웹서비스(AWS)가 생성형 AI의 성공적인 도입을 위한 핵심 요소로 데이터품질, 모델 개선, 보안과 윤리 등을 제시했다. 아마존 베드록을 통해 쉽고 안전하게 생성형 AI솔루션을 구현할 수 있다는 설명이다.

AWS의 아마존 베드록은 생성형 AI 구축을 지원하는 완전 관리형 서비스로, AI21 랩스, 앤스로픽, 코히어, 메타, 미스트랄 AI, 스태빌리티 AI 및 아마존의 다양한 고성능 파운데이션 모델을 단일 API를 통해 제공해 여러 모델에 대한 선택지를 제공한다. [사진=AWS]

12일 AWS에 따르면 기업용 소프트웨어 벤더들은 AI 도구를 제품에 통합함으로써 생성형 AI 기반 기능과 새로운 앱의 광범위한 도입을 가속하고 있다.

가트너 조사 결과 2022년 1240억 달러였던 전 세계 AI 소프트웨어 지출이 2027년까지 2970억 달러로 증가할 예정이다. 생성형 AI(Generative AI) 지출은 2023년 8%에서 2027년 35%로 급증할 것으로 전망된다.

한국도 빠르게 움직이고 있다. 한국경영자총협회의 조사에 따르면, 국내 주요 기업의 38%가 이미 생성형 AI를 도입했거나 도입 중인 것으로 나타났다. 또한, 엑센츄어의 2024년 보고서에서는 국내 기업의 88%가 향후 5년 내 생성형 AI를 도입할 계획이라고 밝혔다. 기업 경영진들이 생성형 AI를 디지털 혁신과 운영 효율성 개선의 핵심 수단으로 인식하고 투자하고 있는 것이다.

◇성공적인 생성형AI 도입 방법은?

기업이 생성형 AI를 성공적으로 도입하고 활용하기 위해서는 몇 가지 핵심 요소를 고려해야 한다.

먼저 데이터의 품질 확보가 매우 중요하다. 생성형 AI 모델의 성능은 학습에 사용되는 데이터의 품질에 크게 좌우되기 때문이다. 기업은 내부 데이터를 정제하고 외부 데이터와 통합하여 고품질의 데이터 자산을 구축해야 한다.

생성형 AI 모델의 지속적인 개선과 업데이트가 필요하다. AI 기술은 빠르게 발전하고 있으므로, 기업은 최신 기술을 적극적으로 도입하고 모델을 지속적으로 튜닝해야 한다. 이를 위해서는 전문 인력 확보와 역량 강화가 필수적이다.

생성형 AI 활용 시 보안과 프라이버시 이슈에 대한 대응이 중요하다. 기업은 데이터 보호를 위한 거버넌스 체계를 마련하고, 책임 있는 AI 원칙을 수립하여 윤리적이고 투명한 방식으로 AI를 활용해야 한다.

◇ AWS가 제공하는 주요 기술은?

AWS는 생성형 AI를 지원하기 위해 세 가지 주요 기술 레이어를 제공한다.

첫째는 파운데이션 모델(FM)을 훈련하고 실행하는 데 필요한 인프라로, 아마존 세이지메이커(Amazon SageMaker)와 같은 관리형 서비스를 제공한다. 또 맞춤형 칩인 트레이니움(Trainium)과 인퍼렌시아(Inferentia)를 통해 고성능과 효율성을 제공한다.

둘째, 대규모 언어 모델(LLM)과 파운데이션 모델을 활용해 생성형 AI 애플리케이션을 구축하고 확장할 수 있는 도구인 아마존 베드록(Amazon Bedrock) 제공을 통해 고객에게 다양한 모델 선택지와 사용자 최적화 기능을 제공하며, 엔터프라이즈급 보안과 프라이버시를 보장한다. 아마존 베드록은 생성형 AI 구축을 지원하는 완전 관리형 서비스로 다양한 고성능 파운데이션 모델을 단일 API를 통해 제공해 여러 모델에 대한 선택지를 제공하는 서비스다.

마지막으로 아마존 큐(Amazon Q)와 같은 생성형 AI 기반 어시스턴트를 통해 비전문가도 쉽게 AI를 활용할 수 있도록 하며, 강력한 보안과 개인정보 보호 기능을 갖추고 있다. 이 세 가지 레이어를 통해 AWS는 고객들이 AI 솔루션을 보다 효과적으로 개발하고 활용할 수 있도록 돕는다.

윤정원 AWS 공공부문 대표. [사진=AWS]

한편, 윤정원 AWS 공공부문 대표는 오는 26일 아이뉴스24가 개최하는 '대한민국 클라우드·SaaS 포럼 2024(KCSF2024)'에서 생성형AI가 기업 혁신의 새로운 동력인 된 가운데 기업들이 보다 성공적으로 생성형AI를 도입하기 위해 고려할 사항과 AWS가 제공하고 있는 기술 플랫폼, 서비스, 기능 및 고객 사례를 발표한다.

‘클라우드와 AI의 미래: 혁신과 가능성’이라는 주제로 개최되는 KCSF2024는, 국내외 주요 클라우드 서비스 제공업체들이 제시하는 최신의 AI 전략과 기술 동향을 소개하며, 다양한 산업에의 성공적인 적용 사례를 통해 AI의 실질적 활용방안을 논의하는 자리다.

/윤소진 기자(sojin@inews24.com)