비싸진 AI, 필수요소 된 클라우드... "비용효율화 전략 필수"

25일 서울 양재동 엘타워에서 한국클라우드산업협회 주최로 열린 '클라우드 빅테크 2024' 컨퍼런스에서 최지웅 한국클라우드산업협회 회장(KT클라우드 대표)이 개회사를 하고 있다.

민간·공공이 AI(인공지능)를 비용 효율적으로 도입하기 위해서는 민간의 퍼블릭 클라우드 인프라를 적극 활용해야 한다는 제언이 나왔다. 자체적으로 설비를 구축하고 AI모델을 개발하기에는 너무 비싸진 만큼 상용화된 민간 클라우드 컴퓨팅 인프라와 솔루션을 적극 활용해야 한다는 얘기다.

25일 서울 양재동 엘타워에서 한국클라우드산업협회 주최로 열린 '제1회 클라우드 빅테크 컨퍼런스'에서 안재석 KT클라우드 본부장은 기조 발표를 통해 "AI 서비스 수요 증가로 컴퓨팅 인프라 활용이 가속화되고 AI 서비스 수요 증가에 따라 전력 사용량도 폭증하고 있다"며 "AI를 통한 생산성 증가, 업무 품질 향상, 산업의 저비용 고효율화 등을 가능케 하는 게 바로 클라우드"라고 강조했다.

개별 기업·기관이 자체적으로 서버를 구매해 온프레미스(구축형) 전산 인프라를 만들어 여기서 AI를 개발하기란 이제 어려워졌다는 지적이다. 안 본부장은 "2028년까지 향후 5년간 AI로 생성되는 토큰(말뭉치 최소단위)의 수는 151배 늘고 AI가 생성하는 이미지도 167배 늘어나며 관련한 운영 비용도 48배에 달할 것"이라고 했다.

그는 "2023년 전 세계 에너지 사용량 중 1.5%였던 데이터센터 전력 소비율은 2026년이면 3%에 달하는데 이는 전 세계 5위 에너지 소비국인 일본(2.8%)을 넘어서는 수준"이라며 "GPU(그래픽처리장치) 서버 한 대를 안정적으로 사용하려면 약 10㎾(킬로와트)의 전력이 필요한데 이는 일반 서버 소요 전력의 10배 수준"이라고 했다. 막대한 운영 비용에 전력 소모가 수반되는 AI 및 AI 개발·운영에 충당되는 컴퓨팅 인프라를 단일 기업·기관이 운용하는 것은 어려워졌다는 것이다.

물론 보안이나 국가 안보 등을 이유로 클라우드 인프라를 쓰기 어려운 경우도 있다. 안 본부장은 이탈리아, 벨기에 등 외국 정부가 데이터 민감도에 따라 민간의 퍼블릭 클라우드 기반 인프라를 활용하거나 경우에 따라 자체 데이터센터에 별도의 클라우드 인프라를 구축하는 '프라이빗 클라우드' 등을 병행하는 전략을 추구한다는 점을 소개했다. 국내에서도 MLS(다중계층보안) 로드맵에 따라 데이터를 기밀, 민감, 공개 등 3개 유형으로 구분해 인프라 구축 방식을 달리할 것을 요구하는 점도 소개했다.

또 고객이 KT클라우드의 데이터센터 내에 기업·기관 고객이 자기만을 위한 영역을 온프레미스 방식으로 구축해 활용하는 등 방식으로 보안 우려를 불식시킬 수 있다고 강조했다.

이날 또 다른 기조발표를 맡은 유경범 네이버클라우드 상무는 비용효율적 AI 업무 관행 구축을 위해서는 'AI 도입 목적'을 명확히 해야 한다고 강조했다. 막연히 AI로 업무 효율성 및 생산성을 높이겠다는 것이 아니라 AI로 개선하고자 하는 영역을 명확히하고 기대 효과도 보다 구체적으로 설정해야 한다는 것이다.

유 상무는 '기술 기반 비용 전환' 전략을 제시했다. 그는 새로운 기술 솔루션에 대한 투자가 소요되더라도 매출수익을 늘리거나 매출원가를 줄이는 방법을 찾아내 고객에게 제시했던 사례를 소개했다.

아울러 강상백 AWS(아마존웹서비스) 총괄은 케냐, UAE(아랍에미리트연합), 일본, 싱가포르 등의 사례를 소개하며 공공 부문이 클라우드 컴퓨팅 인프라를 활용해 유연하게 정책을 구사하고 있다는 점을 강조했다. 강 총괄은 민간 퍼블릭 클라우드를 중심으로 한 아키텍처 지향을 명시한 한국의 공공 클라우드 컴퓨팅 활용 정책에 대해서도 긍정적으로 평가하며 "여기에 AI와 ML(머신러닝) 전략이 보다 추가됐으면 한다"고 했다.

이외에도 에스넷시스템, 오픈소스컨설팅, 맨텍솔루션, 세일즈포스, 영림원소프트랩, 나무기술, 클라이온, SK쉴더스, 가온아이가 다양한 클라우드 네이티브 전환 및 도입 사례, 클라우드 활용 전략 및 최신 보안 정보 등을 발표했다.

황국상 기자 gshwang@mt.co.kr