'전기 하마' 초거대 AI…"클라우드 서비스로 비용 낮춘다"(종합)

윤지원 기자 2023. 4. 18. 13:11
자동요약 기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다.
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.

챗GPT 등 초거대 인공지능(AI) 모델에 대한 접근성을 확대하려면 전력 소모량 문제를 해결해야 한다는 목소리가 나온다.

마이크로소프트(MS), 구글, 아마존 등 거대 기업뿐만 아니라 일반 회사도 초거대 AI를 쉽게 쓸 수 있도록 비용 효율적인 클라우드 인프라가 필요하다는 지적이다.

윤동식 KT클라우드 대표는 초거대 인공지능(AI)의 전력 소모량을 절감할 수 있는 인프라가 필요하다고 18일 밝혔다.

음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

'KT클라우드 서밋(summit) 2023' 개최…업계 관계자 한자리에
"탄소 배출로 AI 금지될 수도…초거대 AI가 가능한 이유는 클라우드 덕"
KT클라우드는 서울 강남구 삼성동 그랜드 인터컨티넨탈 서울 파르나스에서 'KT클라우드 서밋(summit) 2023'을 개최했다고 18일 밝혔다. 사진은 개회사를 하는 윤동식 KT클라우드 대표. 2023.04.18/뉴스1 ⓒ News1 윤지원 기자

(서울=뉴스1) 윤지원 기자 = 챗GPT 등 초거대 인공지능(AI) 모델에 대한 접근성을 확대하려면 전력 소모량 문제를 해결해야 한다는 목소리가 나온다.

마이크로소프트(MS), 구글, 아마존 등 거대 기업뿐만 아니라 일반 회사도 초거대 AI를 쉽게 쓸 수 있도록 비용 효율적인 클라우드 인프라가 필요하다는 지적이다.

윤동식 KT클라우드 대표는 초거대 인공지능(AI)의 전력 소모량을 절감할 수 있는 인프라가 필요하다고 18일 밝혔다.

이날 윤 대표는 서울 강남구 삼성동 그랜드 인터컨티넨탈 서울 파르나스에서 열린 'KT클라우드 서밋(summit) 2023'에 참석했다. 이는 클라우드 산업의 핵심 기술과 전략, 산업 동향 등을 소개하는 고객사∙협력사 초청 행사다.

행사는 '디지털 비즈니스 혁신을 위한 AI 클라우드, 클라우드, 인터넷데이터센터(IDC) 산업'을 주제로 열렸다. 산업 동향과 기술, 전략 공유를 위한 3개의 키노트와 총 3개 트랙 30개 전문 분야의 세션, 업계 최신 기술 및 서비스 전시가 함께 진행됐다.

윤 대표는 "비용, 전력 효율적인 AI 인프라가 절실하게 필요한 때"라며 "AI의 전력 소모량이 어마무시하다. 이렇게 전력을 소모하다가는 탄소 배출로 AI가 금지되는 날이 올 수도 있다"고 말했다.

이어 "학습, 추론 비용을 혁신적으로 감소시켜야지만 일반 회사들도 얼마든지 사용할 수 있는 AI 시대가 되는 것"이라고 덧붙였다.

KT클라우드는 초거대 AI 시대에 맞춰 전력 소모량을 낮추고 연산 성능을 높인 클라우드 서비스를 개발 중이다. 윤 대표는 "현재 알려져있는 엔비디아의 제품 대비 5분의 1 이하 전력을 사용하고 성능은 그 이상을 낼 수 있는 NPU(신경망 처리 장치) 칩을 지금 개발하고 있다"며 "칩 제작을 완료하고 5월 말쯤에 선보일 수 있을 것 같다"고 말했다.

KT클라우드는 NPU에서 나아가 지능형 메모리 반도체(PIM) 개발에도 주력한다는 계획이다. 하나의 칩에서 메모리와 연산을 동시에 구현한 반도체가 PIM 반도체다.

KT클라우드는 서울 강남구 삼성동 그랜드 인터컨티넨탈 서울 파르나스에서 'KT클라우드 서밋(summit) 2023'을 개최했다고 18일 밝혔다. 사진은 배순민 KT 융합기술원 AI2XL연구소장이 발표하는 모습. 2023.04.18/뉴스1 ⓒ News1 윤지원 기자

행사 두번째 발표자로 나선 배순민 KT 융합기술원 AI2XL연구소장 또한 초거대 AI 발전에 있어서 클라우드 인프라의 중요성을 강조했다.

배 소장은 "초거대 AI가 가능한 이유는 클라우드 덕분인 것 같다"며 "초거대 AI는 많은 투자 비용, 노력이 필요하다. 웬만한 인프라 전문 업체들도 다루기가 힘들다"고 말했다.

배 소장은 KT가 개발 중인 감성형 초거대 AI 모델 '믿음'도 소개했다. 그는 "아직 초거대 AI는 범용 AI가 아니다. 모든 것을 처리할 수는 없다"며 "AI가 걸음마를 이제 뗐다고 생각한다. 앞으로 한 10년, 짧게는 5년 또는 2~3년 안에 정말 많은 변화가 있을 것"이라고 말했다.

정부 측 연사로 나선 황종성 한국정보사회진흥원(NIA)장은 공공 부문 내 클라우드 전환 흐름 속에서 정부와 기업 모두 '윈윈'하는 전략이 필요하다고 강조했다.

황 원장은 "클라우드를 도입했을 때 장점과 효과가 있게끔 '윈윈'의 비즈니스 모델을 만드는 게 좋겠다"며 "그냥 기존에 있는 것을 바꾸게 되면 공공기관, 지자체들은 중앙 정부의 지원이 없으면 안 하려고 하는 경향이 많다. 윈윈의 비즈니스 사례를 적극 만들어야 산업 영역이 발전할 수 있지 않을까 생각한다"고 말했다.

한편 이날 행사에는 한국정보사회진흥원 등 공공기관과 더불어 리벨리온, 메가존클라우드 등 주요 IT 기업 및 클라우드 업계 관계자 1000여명이 참석했다.

g1@news1.kr

Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.

이 기사에 대해 어떻게 생각하시나요?