KT·KT클라우드·삼성전자, ‘AI 풀스택’ 구현 위해 맞손

차세대 메모리 기술협력 MOU

(왼쪽부터) 송재호 KT 부사장, 김재준 삼성전자 부사장, 윤동식 KT클라우드 사장, 심은수 삼성전자 부사장이 양해각서 체결을 마치고 기념사진을 촬영하고 있다. ⓒKT

KT는 KT클라우드, 삼성전자와 함께 ‘한국형 AI(인공지능) 풀스택(Full Stack) 구현을 위한 차세대 메모리 기술협력’ 양해각서(MOU)를 체결했다고 29일 밝혔다.

3사는 이번 협약을 통해 삼성전자의 PIM(Processing-in-Memory)과 PNM(Processing-near-Memory) 환경에서 KT 초거대 AI ‘믿음’을 통한 ▲초거대 AI 모델의 메모리 영향성 분석 ▲AI 반도체 플랫폼 연구 ▲차세대 Cloud 솔루션 등 AI 풀스택 역량 강화를 위해 협력할 예정이다.

한국형 AI 풀스택이란 국산 AI 반도체와 소프트웨어, 클라우드 등 인프라부터 AI 응용 서비스까지 모두 아우르는 제품과 서비스를 의미한다.

PIM은 저장 작업을 하는 메모리 반도체에 연산 작업을 하는 프로세서 기능을 더한 지능형 반도체다. 메모리 안에서 간단한 연산을 수행할 수 있어 데이터 이동 횟수가 줄어들고 병목 현상이 줄어든다는 장점이 있다.

PNM은 메모리 가까운 위치에 연산 기능을 배치해 CPU와의 데이터 전송 시간을 최소화하는 기술이다.

AI 서비스를 개발하는 과정에서 기존의 AI 인프라를 사용할 경우 연산 속도와 전력 소비 등에서 비효율이 발생하는 문제가 있었다. KT와 KT클라우드는 이를 해결하기 위해 AI 연산에 최적화된 AI 반도체인 NPU(Neural Processing Unit)를 반도체 설계 기업인 리벨리온과 함께 지난 5월 KT클라우드에서 상용화했다.

나아가 KT와 KT클라우드는 한국형 AI 풀스택 완성을 위해 KT의 초거대 AI 모델 ‘믿음’을 활용해 삼성전자의 PIM·PNM 인프라 실증 연구와 기술 협력에 나선다. AI 서비스를 사용할 때 답변이 뚝뚝 끊기는 것과 같은 ‘메모리 병목 현상’을 해결하기 위해 삼성전자의 스마트 인프라 기술을 도입해 한국형 AI 풀스택을 한층 더 강화한다는 계획이다.

송재호 KT AI·DX융합사업부문장 부사장은 “초거대 AI 개발을 위한 삼성전자와의 차세대 메모리 기술 개발 협력을 통해 경쟁력 있는 인프라 기반을 구축하겠다”며 “이렇게 완성한 AI 풀스택으로 산업 전반에서 AI 생태계를 확장하고 대한민국 인공지능 경쟁력 강화에 기여할 것”이라고 말했다.

윤동식 KT클라우드 사장은 “HAC, NPU 등 kt cloud의 초거대 AI 인프라와 삼성전자의 차세대 반도체 기술, KT의 AI 솔루션 및 기술 공동 협력으로 AI 반도체 고도화를 지속 추진하고 한국형 AI 풀스택을 완성해 나갈 것”이라고 전했다.

김재준 삼성전자 메모리사업부 전략마케팅실장은 "KT, KT클라우드와의 기술 협력으로 대규모 데이터 처리가 필요한 초거대 AI 모델의 메모리 병목현상을 해소해 나갈 것"이라며 “클라우드와 AI 기업의 시장 니즈를 반영한 PIM, PNM 등 스마트 기술을 통해 차세대 메모리 기술을 확대해 나가겠다”고 했다.