AI 비용 '눈덩이'..."AI 반도체 최적화가 해답" [AI월드 2024]

5일 서울 송파구 롯데월드타워 롯데시네마에서 파이낸셜뉴스와 과학기술정보통신부가 공동 개최한 'AI월드 2024'에서 최장석 삼성전자 메모리사업부 신사업기획팀 팀장아 강연을 하고 있다. 사진=박범준 기자

5일 서울 송파구 롯데월드타워 롯데시네마에서 파이낸셜뉴스와 과학기술정보통신부가 공동 개최한 'AI월드 2024'에서 리벨리온 정윤석 최고전략책임자(CSO)가 강연을 하고 있다. 사진=박범준 기자

[파이낸셜뉴스] 인공지능(AI) 시대에 발맞춰 데이터 학습과 추론에 들어가는 비용이 기하급수적으로 증가하는 가운데 AI 반도체 최적화를 통해 비용을 획기적으로 줄일 수 있다는 전문가들의 의견이 제기됐다.

5일 서울 송파구 롯데월드타워 롯데시네마에서 파이낸셜뉴스와 과학기술정보통신부가 공동 개최한 'AI월드 2024'에 참석한 최장석 삼성전자 메모리사업부 신사업기획팀장(상무)은 "반도체 안에서도 메모리가 AI 응용에서 차지하는 중요성은 더 커지고 있다"며 "챗GPT4 모델을 트레이닝하는데 2억달러 정도의 비용이 든다고 한다. 이 비용은 메모리 옵티마이제이션(최적화)을 통해 줄일 수 있다"고 밝혔다.

최 팀장은 "AI 시대를 맞아 필요한 데이터센터의 가속기 전용 서버를 만드는 데 있어 가장 큰 문제는 전력 수급으로, 저전력 성능이 중요해졌다"면서 "메모리 용량과 성능, 사업 모델까지 다양한 솔루션을 촘촘히 세워 최적화를 하려고 한다"고 말했다.

그는 "또 한 가지 변화는 그동안 메모리는 범용 제품으로 표준에 입각해서 같은 제품을 내놓았다"며 "지금은 고객사와 일 대 일로 붙어 다양한 솔루션을 맞춤화하며 최적화 포인트를 찾고 있다"고 전했다.

국내 팹리스(반도체 설계전문) 리벨리온 정윤석 최고전략책임자(CSO)는 AI 모델을 서비스하는 업체들에게 AI 반도체가 필수가 됐다고 설명했다.

정 CSO는 "각 모델과 서비스 수요에 따라 어떤 곳에서는 하이엔드 제품이 필요할 수도 있고, 어떤 곳은 가격은 싸지만 적당한 반도체를 쓸 수 있다"며 "그렇기 때문에 (AI 반도체는) 하나의 반도체가 아니라 다양한 파이프라인을 가지고 있는 지를 봐야 한다"고 말했다.

그는 "AI 반도체는 인프라로서 향후 1~2년 뒤에 있을 AI 모델의 연산 방식과 트렌드를 결정하는 데 영향을 준다"면서 "AI 모델이 커지며 연산량이 늘어나고 처리 속도가 늘어지는 트렌드가 있는데, AI 전용 반도체를 활용함으로써 더 많은 트래픽을 창출할 수 있다"고 전했다.

정 CSO는 "오픈AI도 엄청난 비용을 에너지 비용에 쏟고 있고, 이를 해결하기 위해서 저전력 AI 추론에 특화된 반도체를 가져가는 게 향후 섹터별 AI 서비스의 수익을 창출하기 위해 필수적"이라면서 "여러 AI 서비스들이 나오면서 인류가 하고 있는 일들의 절반 이상을 대체나 보완하며 새로운 수요를 만들 것으로 보고 있다"고 말했다.

mkchang@fnnews.com 장민권 기자