'지능형반도체에서 클라우드까지'...KT-삼성전자, AI 풀스택 협력

삼전-KT-KT클라우드, 29일 MOU
AI반도체, SW 등 모든 제품 개발키로

KT와 삼성전자가 인공지능(AI) 반도체 개발에서부터 소프트웨어, 클라우드까지 AI와 관련된 모든 제조 기술 및 소프트웨어 개발에 전방위 협력하기로 했다.

KT, KT cloud, 삼성전자는 ‘한국형 AI 풀스택 구현을 위한 차세대 메모리 기술협력’ MOU를 체결했다. 앞줄 왼쪽부터 KT 배순민 상무, KT 송재호 부사장, 삼성전자 김재준 부사장, kt cloud 윤동식 사장, 삼성전자 심은수 부사장, 삼성전자 최장석 상무를 비롯한 관계자들이 MOU를 마치고 기념 사진을 촬영했다. KT 제공

KT, kt cloud, 삼성전자는 ‘한국형 AI 풀스택 구현을 위한 차세대 메모리 기술협력’ MOU를 체결했다고 29일 밝혔다. 3사는 28일 오후 서울 강남구에 위치한 kt cloud 본사에서 협약식을 개최했다. 이 행사에는 KT 송재호 부사장, kt cloud 윤동식 사장, 삼성전자 김재준 심은수 부사장 등이 참석했다.

3사는 이번 협약을 통해 삼성전자의 PIM과 PNM 환경에서 KT 초거대 AI ‘믿음’을 통한 초거대 AI 모델의 메모리 영향성 분석, AI 반도체 플랫폼 연구, 차세대 Cloud 솔루션 등 AI 풀스택 역량 강화를 위해 협력할 예정이다.

한국형 AI 풀스택(Full Stack)이란 국산 AI 반도체와 소프트웨어, 클라우드 등의 인프라부터 AI 응용 서비스까지 모두 아우르는 제품과 서비스를 의미한다. PIM(Processing-in-Memory)이란 저장 작업을 하는 메모리 반도체에 연산 작업을 하는 프로세서 기능을 더한 지능형 반도체다.

메모리 안에서 간단한 연산을 수행할 수 있어 데이터 이동 횟수가 줄어들고 병목 현상이 줄어든다는 장점이 있다. PNM(Processing-near-Memory)이란 메모리 가까운 위치에 연산 기능을 배치해 CPU와의 데이터 전송 시간을 최소화하는 기술이다.

AI 서비스를 개발하는 과정에서 기존의 AI 인프라를 사용할 경우 연산 속도와 전력 소비 등에서 비효율이 발생하는 문제가 있었다. KT와 kt cloud는 이를 해결하기 위해 AI 연산에 최적화된 AI 반도체인 NPU(Neural Processing Unit)를 반도체 설계 기업인 리벨리온과 함께 지난 5월 kt cloud에서 상용화했다.

나아가 KT와 kt cloud는 한국형 AI 풀스택 완성을 위해 KT의 초거대 AI 모델 ‘믿음’을 활용해 삼성전자의 PIM, PNM 인프라 실증 연구와 기술 협력에 나선다. AI 서비스를 사용할 때 답변이 뚝뚝 끊기는 것과 같은 ‘메모리 병목 현상’을 해결하기 위해 삼성전자의 스마트 인프라 기술을 도입해 한국형 AI 풀스택을 한층 더 강화한다는 계획이다.

KT AI/DX융합사업부문장 송재호 부사장은 “초거대 AI 개발을 위한 삼성전자와의 차세대 메모리 기술 개발 협력을 통해 경쟁력 있는 인프라 기반을 구축하겠다”며 “이렇게 완성한 AI 풀스택으로 산업 전반에서 AI 생태계를 확장하고 대한민국 인공지능 경쟁력 강화에 기여할 것”이라고 말했다.

kt cloud 윤동식 사장은 “HAC, NPU 등 kt cloud의 초거대 AI 인프라와 삼성전자의 차세대 반도체 기술, KT의 AI 솔루션 및 기술 공동 협력으로 AI 반도체 고도화를 지속 추진하고 한국형 AI 풀스택을 완성해 나갈 것”이라고 강조했다.

삼성전자 메모리사업부 전략마케팅실장 김재준 부사장은 “KT, kt cloud와의 기술 협력으로 대규모 데이터 처리가 필요한 초거대 AI 모델의 메모리 병목현상을 해소해 나갈 것”이라며 “클라우드와 AI 기업의 시장 니즈를 반영한 PIM, PNM 등 스마트 기술을 통해 차세대 메모리 기술을 확대해 나가겠다”고 밝혔다.