韓 10대 AI 기술 조명해보니...업그레이드 K메모리에 HBF·PiM 각광 [AI 딥다이브]

최창원 매경이코노미 기자(choi.changwon@mk.co.kr), 조동현 매경이코노미 기자(cho.donghyun@mk.co.kr) 2026. 1. 23. 21:03
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

디지털 트윈·VLA가 만들 ‘피지컬 AI’

‘피지컬 AI’ 시대에도 한국의 기회는 있다. 반도체부터 각종 소프트웨어, 로봇과 디지털 트윈까지 한국 기업들이 경쟁력을 쌓아온 영역이 분명하기 때문이다. 매경이코노미는 학계, 산업계, 자본 시장 등 각계 AI 전문가 23명에게 미래 한국을 먹여 살릴 AI 신기술을 물었다. 초미세 적층·패키징 기술부터 이름도 낯선 ‘뉴로모픽’ 컴퓨팅까지 첨단 기술이 다수 지목됐다. 전문가들은 반도체 제조 부문에서는 한국 강점이 뚜렷하지만, 피지컬 AI 구현을 위한 소프트웨어 기반 기술에서는 갈 길이 멀다고 입을 모았다.

반도체: K메모리 재도약

‘적층 기술’부터 ‘뉴로모픽’까지

1. 초미세 적층

전문가들 입에서 가장 많이 언급된 건 반도체 ‘적층’ 기술이다. 적층 기술은 말 그대로 반도체를 수직으로 ‘쌓는다’는 의미다. 칩을 수직으로 쌓으면 전자 이동 거리가 짧아져 전류의 이동 속도가 개선되고 이는 데이터 처리 속도 향상으로 이어진다. 가장 익숙한 사례는 D램을 여러 층으로 쌓은 고대역폭메모리(HBM)다. HBM은 그래픽처리장치(GPU) 옆에 배치돼 AI 연산에 필요한 데이터를 발 빠르게 공급한다.

전문가들 시선은 다음 단계로 옮겨간다. HBM이 현재 한국을 먹여 살릴 먹거리라면, 적층 기술을 활용한 미래 먹거리가 필요하다는 판단이다. 장동인 카이스트 김재철AI대학원 책임교수는 HBF(고대역폭 플래시 메모리)를 꼽았다. D램을 쌓는 HBM과 달리 비휘발성 메모리인 낸드 플래시를 적층한 형태다. 역할도 구분된다. HBM은 ‘빠른 연산 보조’ 역할이었다면, HBF는 AI가 처리하는 방대한 데이터를 대용량으로 저장하는 데 초점이 맞춰졌다. 장동인 교수는 “향후 모든 추론(Inference) 컴퓨터그래픽장치(GPU)와 신경망처리장치(NPU)에는 HBF가 장착될 것”이라고 봤다.

전문가들이 HBF를 주목하는 건 AI 트렌드 변화와 관련 있다. AI 시장은 크게 학습(Learning)과 추론(Inference)으로 구분된다. 학습은 수많은 데이터를 입력해 AI 모델을 가르치는 과정이다. 추론은 학습 데이터를 바탕으로 결과물을 도출하는 단계다. 지금까지는 학습의 중요성이 대두됐지만 최근에는 추론이 핵심으로 떠오른다.

추론 AI에서는 핵심 요건이 달라진다. 빠른 연산 보조 능력뿐 아니라 이전 대화와 판단 결과, 작업 맥락 등 방대한 중간 데이터를 지속적으로 저장하고 불러오는 능력이 중요하다. AI가 맥락을 기억하며 판단을 이어가는 구조여서다. 문제는 이 데이터를 모두 HBM에 담기 어렵다는 점이다. HBM은 즉각적으로 쓰이는 데이터 처리에 최적화된 만큼 용량 자체는 제한적이다. 또 비싼 가격을 고려하면 추론 과정에서 생성되는 방대한 맥락 데이터를 HBM만으로 처리할 경우 비용 부담이 상당하다. 이에 HBM과 HBF가 동시에 필요하다는 분석이 나온다. 일종의 분업이다.

HBF는 삼성전자와 SK하이닉스가 선도 중인 분야기도 하다. 장동인 교수는 “삼성전자와 SK하이닉스는 eSSD(서버용 저장장치) 부문에서도 전 세계 톱티어”라며 “SK하이닉스는 이미 샌디스크와 공동개발에 착수해 엔비디아 납품을 준비 중”이라고 말했다.

SK하이닉스가 청주에 건설하는 ‘P&T 7’ 조감도. (SK하이닉스 제공)
2. PiM(Processing in Memory)

메모리 내부에서 저장과 연산을 동시에 처리하는 PiM(Processing in Memory) 기술도 주목받는다. 기존 반도체와 AI 칩은 서로 분리된 구조였다. 데이터를 주고받는 과정에서 전력 효율성이 악화했다. PiM은 이를 겨냥해 반도체 안에 연산기를 삽입하는 형태다. 반도체가 자체적으로 데이터 연산과 저장을 동시에 진행해 데이터 이동을 최소화하고 전력 효율성을 극한으로 끌어올리는 구조다.

PiM을 유망 기술로 꼽은 송명섭 iM증권 애널리스트는 “생성형 AI 모델 고도화로 데이터 처리량이 폭증하면서 ‘에너지 효율’이 화두가 됐다”며 “이 과정에서 PiM 기술은 한국의 새로운 먹거리로 떠올랐다”고 말했다. 송 애널리스트는 “삼성전자와 SK하이닉스는 PIM 기술 표준화와 상용화에서 가장 앞선 공정 인프라와 기업 생태계를 갖추고 있다”고 평가했다. 삼성전자는 2021년 세계 최초로 HBM에 PIM 기술을 결합한 ‘HBM-PIM’을 개발했다. 이후 AI 엔진을 탑재한 모듈형 제품 ‘AXDIMM’, 이를 모바일용으로 확장한 ‘LPDDR-PIM’ 등을 선보였다. SK하이닉스도 자체 PIM 제품 액셀러레이터인메모리(AiM)를 개발했다. CES 2026에서도 PIM 기반 AI용 가속기 카드(AiMX)를 공개했다.

3. 차세대 패키징

반도체 설계를 아무리 잘하더라도, 실제 제품으로 만드는 건 다른 차원의 얘기다. 이를 위해선 초정밀 패키징 기술이 뒷받침돼야 한다. 전문가들은 차세대 패키징 기술로 하이브리드 본딩을 주목한다. 로직(GPU·NPU)과 메모리(HBM)를 범프 없이 구리(Cu)끼리 직접 접합해 칩 간 거리를 극한으로 줄이는 방식이다. 데이터 이동 지연과 전력 소모를 동시에 낮출 수 있는 기술이다.

한종목 미래에셋증권 애널리스트는 “현재 구글 등 전 세계 빅테크들이 자체 칩(TPU 등 ASIC)을 설계하고 있지만, 한국의 고도화된 패키징 기술 없이는 그 설계안을 실물로 구현할 방법이 없기에 경쟁력은 강한 수준”이라고 평가했다. 현재 하이브리드 본딩에 가장 적극적인 기업은 삼성전자다. 꾸준히 기술 연구·샘플 적용을 추진 중이다. 전문가들은 하이브리드 본딩 기술이 2028~2029년 HBM에 적용돼 상용화될 것으로 내다본다.

삼성전자는 차세대 고대역폭메모리(HBM) 제조에 하이브리드 본딩 공정 도입을 가속화하고 있다. 사진은 삼성전자의 HBM3E, HBM4. (삼성전자 제공)
4. 뉴로모픽(Neuromorphic) 컴퓨팅

HBF와 PiM 이후를 대비하는 방향성도 거론된다. 이인아 서울대 뇌인지과학과 교수는 뉴로모픽 컴퓨팅을 꼽았다. 뉴로모픽은 인간의 뇌처럼 신호 발생시에만 연산이 이뤄지는 스파이킹 신경망(SNN)이 핵심이다. 기존 딥러닝 방식과 비교해 전력 효율이 뛰어날 수밖에 없다.

다만, 뉴로모픽은 아직 상용화 초기 단계다. 그럼에도 관련 업계와 학계에선 한국이 충분한 경쟁력을 갖췄다고 본다. 일찌감치 연구를 시작한 분야인 데다 반도체 관련 경쟁력도 뛰어나기 때문이다. 지식재산처가 2003년부터 지난해까지 최근 22년간 특허 다출원 5개국(IP5)에서 출원된 뉴로모픽 반도체 분야 특허를 분석한 결과, 한국의 특허 출원 증가율은 39.1%로 중국(39.3%)에 이어 2위를 차지했다.

이인아 교수는 “AI의 지속 가능성을 위해서는 뇌의 작동 원리(스파이크 신호 전달, 메모리-연산 일체화)를 모방한 저전력·고효율 하드웨어가 필수적”이라며 “뉴로모픽은 메모리와 연산이 통합된 구조를 지향하므로, 한국의 반도체 공정과 소자 기술력이 큰 힘이 될 것”이라고 내다봤다.

전자부품: 없어선 안 될 AI용 ‘쌀’

MLCC·패키징 기판 슈퍼사이클

5. 마이크로 기술 집약체 ‘MLCC’

전문가들은 적층세라믹커패시터(MLCC) 속 기술에 주목했다. MLCC는 전자기기 혹은 서버 내 전류가 안정적으로 흐를 수 있게 돕는 부품이다. MLCC가 없다면 부품 간 신호 간섭으로 오작동이 발생할 수 있다. 일종의 전자부품 신호등 역할로 생각하면 이해가 쉽다. 마치 ‘쌀’처럼 AI와 전자 산업에선 없어선 안 될 필수품이다. MLCC는 전자부품 기술 집약체로 불린다. 크기를 줄이면서도 저장해야 할 전기 용량은 늘려야 하기 때문이다. 이에 나노(㎚) 단위 미세 공정에서 진입장벽이 높은 산업이 반도체라면, 마이크로(㎛) 기술 단계에선 MLCC가 가장 어렵다는 평가를 받는다.

만드는 과정도 복잡하다. MLCC는 세라믹과 금속(니켈)을 종이처럼 얇게 번갈아 쌓아 만든다. 이를 위해 먼저 원재료에 여러 종류의 첨가제를 섞어 슬러리(다양한 물질을 섞어 만든 반죽 형태 혼합물)로 만들어야 한다. 이후 결과물을 미세하게 인쇄하고 적층한다. 마지막으로 도자기처럼 고온 열처리한다. 더군다나 MLCC는 세라믹 재료에 어떤 물질을 첨가하고, 첨가량은 얼마로 해야 하는지가 관건이다. MLCC 제조사만 알고 있는 노하우다. 마치 맛집 ‘비법 소스’처럼 제조사만 알고 있는 ‘핵심 기술’이다.

최근 불거지는 MLCC 공급 부족 현상도 기술 장벽과 관련 있다. 빅테크 데이터센터 설비투자(CAPEX) 규모가 커지자 MLCC 수요는 폭증 중이다. 데이터센터에는 각종 전원 공급 장치와 AI 칩이 탑재되는데, 이들 신호 오류 예방을 위해 MLCC가 필요해서다.

하지만 기술 장벽으로 공급 확대는 제한적이다. AI 서버용 MLCC는 삼성전기와 일본 무라타 두 곳이 양분 중이다. 상황이 이렇다 보니 증권가는 2026년 MLCC 슈퍼사이클을 내다본다. 공급을 넘어서는 수요 탓에 AI 서버용 MLCC 시장 공급 부족이 지속돼 판가 인상이 기대된다는 평가다.

6. 플립칩 본딩

패키징 기판에 적용된 플립칩(Flip Chip) 본딩 기술도 한국을 먹여 살릴 핵심 기술로 꼽힌다. 기판은 반도체 칩과 전자기기 속 메인보드를 연결하는 역할을 맡는다. 반도체 칩의 전기 신호 통로 간격은 상당히 미세하다. 메인보드 통로 간격과 차이가 크다. 이에 기판은 반도체 칩 통로에 맞게 전기 신호를 받고 이를 메인보드에 맞춰 전달한다.

그런데 AI 시대에서 칩의 입출력(I/O) 수가 급격히 늘면서 이 간극은 더 벌어졌다. 이에 주목받는 해법이 플립칩 본딩 기술을 적용한 FC-BGA(플립칩-볼그리드어레이)다. 플립칩 본딩은 반도체 칩을 뒤집어 기판 위에 직접 접합하는 방식으로, 칩 하부에 형성된 미세한 금속 볼(솔더볼)을 통해 기판과 전기적으로 연결된다. 와이어 본딩(반도체 칩과 기판을 와이어로 연결하는 전통적인 패키징 방식)이 필요 없어 공간 효율이 높고 신호 경로가 짧아 고속·고집적 반도체 구현에 유리하다는 평가다.

과거 FC-BGA는 이비덴 등 일본 업체가 주도했다. 최근에는 주문형반도체(ASIC) 진영 존재감이 커지면서 삼성전기와 LG이노텍도 기회를 잡고 있다. 장덕현 삼성전기 사장은 미국 라스베이거스에서 열린 ‘CES 2026’에서 “FC-BGA는 올해 하반기부터 풀가동될 것”이라며 “FC-BGA 증설도 조심스럽게 생각하고 있다”고 전했다. LG이노텍도 빅테크의 FC-BGA 수주를 받아 양산 중이다. 추가 고객 확보를 위한 논의도 이어지고 있다.

이창민 KB증권 애널리스트는 “시장에서 성장성이 있고, 글로벌 경쟁사와 비교했을 때 기술 우위가 있다면 유망한 기술”이라며 “기판은 진입 장벽이 높은 편이다. 일본이나 대만 등 경쟁 국가가 있지만, 다른 곳이 갑자기 진입하기 쉽지 않다”고 설명했다.

‘꿈의 기판’으로 불리는 유리기판(Glass Substrate)도 차세대 한국 먹거리로 꼽힌다. 유리기판은 인터포저(전기 신호를 받아들이는 부품) 없이 반도체 칩과 메인보드를 연결할 수 있다는 게 특징이다. 상대적으로 열에 강하고 평탄도 고른 편이다. 기판 부문 게임체인저로 불리는 배경이다. 삼성전기는 2026년 하반기 양산 체제를 갖추고 2027년 이후 본격적인 양산에 돌입할 계획이다. LG이노텍도 2028년 상용화가 목표다. 문학수 LG이노텍 사장은 CES 2026에서 “제품 개발은 이미 끝났고 서울 마곡 R&D센터에 장비 도입과 시제품 라인 구축도 마쳤다”며 “빅테크 기업과 손잡고 2028년 양산을 목표로 속도를 내고 있다”고 밝혔다.

하이퍼엑셀은 LLM 추론에 특화된 AI 반도체 기업이다. 최근 LG전자와 온디바이스 LLM 가속기 협력으로도 주목받고 있다. 사진은 하이퍼엑셀의 LPU ‘베르다(Bertha)’. (하이퍼엑셀 제공)
IT 완제품: ‘돈 버는 AI’ 선점

기기 내재화로 효율성 제고

7. NPU 기반 온디바이스 AI

한국은 상대적으로 거대언어모델(LLM) 경쟁에선 뒤처졌다. 하지만 현장용 AI 부문에선 충분한 경쟁력을 갖췄다는 게 전문가 평가다. 강명우 stc랩 대표는 “미국 등 LLM을 쫓아가는 전략은 자본 경쟁에서 불리할 수밖에 없다”며 “한국이 강점을 가져야 할 영역은 기존 산업과 AI를 결합해 실제로 돈을 버는 기술”이라고 말했다.

이 과정에서 주목받는 먹거리가 온디바이스(기기 내장형) AI 아키텍처다. 온디바이스 AI는 인터넷 연결 없이 기기 자체에서 AI 기능을 수행하는 형태다. 클라우드와 연결하는 기존 AI 서비스에 비해 작업 속도가 빠르고 전력 소모가 적다는 장점이 있다. 온디바이스 AI 핵심은 저전력 AI 반도체(NPU)다. 서버용 AI 칩이 연산 성능 극대화에 초점을 맞춘다면, 온디바이스용 NPU는 제한된 전력과 발열 조건에서 필요한 연산만 효율적으로 처리하는 구조를 지향한다.

한국은 온디바이스 AI에 적합한 산업 생태계를 갖췄다. 후방 부품부터 자동차·가전·스마트폰 등 온디바이스 AI가 적용될 완제품으로 이어지는 탄탄한 가치사슬 덕분이다. 송명섭 애널리스트는 “한국은 세계 최고의 하드웨어 제조 기반을 보유 중”이라며 “하드웨어와 소프트웨어를 결합한 수직 계열화를 통해 글로벌 온디바이스 AI 표준을 주도할 수 있다”고 설명했다.

이미 국내 스타트업과 제조업은 발 빠르게 협업 중이다. AI 반도체 스타트업 하이퍼엑셀은 LG전자와 온디바이스 AI를 공동 개발 중이다. 가전과 로봇 등에 공동 개발 AI를 적용하는 게 목표다. 빠르면 올해 말 협업 결과물이 나올 예정이다. 또 다른 스타트업 딥엑스는 현대차·기아와 로봇용 온디바이스 AI 부문에서 협업 중이다. 칩 개발은 완료된 상태로 양산을 예정 중이다. 또 다른 스타트업 노타도 텔레칩스 등과 협업하며 로보틱스, 모빌리티 영역에서 온디바이스 기술력 존재감을 키운다.

피지컬 AI: 가상을 현실로

디지털 트윈부터 VLA까지

8. 디지털 트윈(Digital Twin)

피지컬 AI의 핵심은 ‘현실 이해’다. 물리적 제약과 위험이 남아 있는 환경에서 즉각적인 판단과 정밀한 제어가 요구된다. 이때 중요한 역할을 하는 것이 ‘디지털 트윈’ 기술이다. 디지털 트윈은 현실의 공장·도시·설비를 가상 환경에 그대로 복제하는 기술로, 일종의 가상 작업실에 해당한다.

피지컬 AI 개발에 디지털 트윈이 필수적인 이유는 비용과 안전성 때문이다. 실제 로봇과 설비를 투입해 수천, 수만번의 시행착오를 반복하는 것은 시간과 비용 부담이 크고 사고 위험도 높다. 디지털 트윈 환경에서는 물리 법칙과 제약을 반영한 상태에서 다양한 시나리오를 안전하게 실험할 수 있다. 가상 공간에서 최적 조건을 찾은 뒤 이를 현실로 이전 가능하단 의미다.

디지털 트윈 분야에서는 네이버가 두각을 보인다. 네이버는 2017년부터 산하 연구조직 네이버랩스를 통해 피지컬 AI 관련 연구개발에 착수했다. 그 결과, 로봇 통합 관리가 가능한 로봇 운영체제(OS) ‘아크(ARC)’와 초정밀 3차원(3D) 디지털 트윈 기술을 바탕으로 로봇 위치를 정밀하게 파악할 수 있는 ‘어라이크(ARAIC)’ 플랫폼 등을 개발했다.

현대차는 2028년 로봇의 신체에 해당하는 ‘아틀라스’의 양산에 돌입해 생산 라인에 본격 투입할 예정이다. 사진은 CES 2026 개막 이틀째인 1월 7일(현지 시간) 미국 네바다주 라스베이거스 컨벤션센터(LVCC) 현대자동차 부스에서 로봇 아틀라스 모습. (연합뉴스)
9. ‘시각언어행동(VLA)’ 모델

산업계에서도 피지컬 AI 흐름은 가시화되고 있다. 특히 현대차그룹이 치고 나온다. 현대차는 최근 CES 2026에서 로봇 ‘신체’에 해당하는 ‘아틀라스’ 상용화 계획과 함께 로봇 ‘두뇌’ 역량을 보유한 구글 딥마인드와 협업 사실을 밝혔다. 아틀라스는 키 190㎝, 몸무게 90㎏의 양산형 기준 모델로, 대부분 관절을 완전히 회전할 수 있으며 손에는 촉각 센서를 탑재했다. ‘아틀라스’는 단순한 기계가 아니라 학습 플랫폼에 가깝다. 고정된 동작을 반복하던 기존 산업용 로봇과 달리, 주변 환경을 인식하고 작업 맥락에 따라 행동을 바꾼다.

이를 가능하게 하는 두뇌가 ‘시각언어행동(VLA)’ 모델이다. VLA 모델은 로봇의 카메라와 센서로 인식한 주변 환경 시각 정보와 인간의 언어 명령을 단일 신경망에서 처리하고 최적 행동을 산출하는 게 특징이다.

아틀라스는 구글 딥마인드 VLA 모델 ‘제미나이 로보틱스’를 쓴다. 현대차는 아틀라스를 2028년부터 양산해 생산 라인에 투입할 계획이다.

전문가들은 VLA를 피지컬 AI 핵심 기술로 본다. 신진우 카이스트 김재철AI대학원 석좌교수는 “기존 산업용 로봇은 고정·반복에 강하지만, 변수가 많은 공정·피킹·조립·검사에서 한계가 크다”며 “VLA는 이 범위를 확장해 노동·인구 구조 문제를 기술로 상쇄할 수 있다”고 전했다. 반도체·배터리·자동차·전자·조선처럼 공정 복잡도가 높은 산업에서 로봇이 실제 돈을 벌 수 있는 단계로 진입한다는 설명이다.

10. 감각·운동 통합 제어 알고리즘

피지컬 AI는 ‘감각·운동 통합 제어’ 단계로 나아가고 있다. 로봇이 사람처럼 일하기 위해서는 눈으로 보고 손끝 힘을 조절하며 예상치 못한 접촉에도 안전하게 대응해야 한다. 이는 단순 제어 알고리즘이 아니라 감각과 운동을 하나로 통합하는 고차원 제어 문제다. 전문가들은 로봇의 ‘감각(센서)’을 꾸준히 업그레이드하면 한국의 기술력이 글로벌 경쟁을 주도할 수 있을 것이라고 전망한다.

이인아 교수는 “진정한 지능은 텍스트가 아니라 물리적 세계와의 상호작용(신체성)을 통해 나온다”라며 “감각·운동 통합 제어와 맥락적 추론 알고리즘이 대한민국을 먹여 살릴 차세대 AI 신기술”이라고 강조했다.

설문에 응답해주신 분들(총 23명, 가나다순) | 강명우 stc랩 대표, 김근교 NC AI 글로벌 사업실장, 김선우 메리츠증권 애널리스트, 박유악 키움증권 애널리스트, 배순민 KT 기술혁신부문 AI퓨처랩장, 송명섭 iM증권 애널리스트, 신진우 KAIST 김재철AI대학원 석좌교수, 안재민 NH투자증권 애널리스트, 이경전 경희대 경영대학 교수, 이인아 서울대 뇌인지과학과 교수, 이정환 한양대 경제금융학부 교수, 이창민 KB증권 애널리스트, 임희연 신한투자증권 애널리스트, 장동인 KAIST 김재철 AI 대학원 교수, 정민기 삼성증권 애널리스트, 최병호 고려대 AI연구소 교수, 최재홍 가천대 창업대학 교수, 한종목 미래에셋증권 애널리스트, LG AI연구원, LG경영연구원, SK AX, SK텔레콤, 리벨리온

[최창원 기자 choi.changwon@mk.co.kr, 조동현 기자 cho.donghyun@mk.co.kr]

[본 기사는 매경이코노미 제2344호 (2026.01.21~01.27일자) 기사입니다]

[Copyright (c) 매경AX. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지]

Copyright © 매경이코노미. 무단전재 및 재배포 금지.