칩 실물도 없는데 3500억 '덜컥'…삼성도 '깜짝 공개'한 차세대 반도체[테크토크]

앤스로픽, 차세대 인 메모리 칩 선점 나서
현재 AI 기술의 핵심 병목인 데이터 이동
메모리와 연산 코어 사이 거리 없애 극복
삼성도 차세대 PIM 개발에 속도
핫칩스서 신기술 깜짝 공개

편집자주
AI, 반도체, 통신, 바이오에 이르기까지 우리 생활에 꼭 필요하지만 너무나 생소한 기술 이야기를 쉽게 풀어 전해 드립니다

지난 5월 미 IT 전문 매체 디 인포메이션에 따르면, 앤스로픽은 반도체 스타트업 프랙타일로부터 2억5000만달러(약 3500억원)어치의 칩을 구매하기 위한 논의에 착수했습니다. 문제는 이 칩이 설계 단계에 불과하며, 내년에야 실물이 나올 예정이라는 겁니다. 빅테크가 기초 성능 검증도 없이 수천억원대 계약을 덜컥하는 경우는 극히 드뭅니다.

앤스로픽이 서둘러 확보하려는 해당 칩은 이른바 '인 메모리(In-memory)'라고 불리는 신개념 반도체로, 현재 인공지능(AI) 산업의 핵심 걸림돌인 컴퓨터 메모리와 연산 사이의 병목을 해결할 구원투수로 주목받고 있습니다.

앤스로픽과의 거래로 기업 가치 폭등

다리오 아모데이 앤스로픽 최고경영자(CEO). 로이터연합뉴스

프랙타일은 2022년 영국 옥스퍼드대 박사 출신 발터 굿윈 최고경영자(CEO)가 설립한 스타트업으로, 직원 수도 100명 남짓한 작은 기업입니다. 그러나 앤스로픽과의 구매 계약 소식이 밝혀진 뒤 기업 가치는 65억달러(약 9조원)로 폭등했고, 최근에는 6억달러(약 8300억원)라는 거액의 투자 유치를 준비 중이라는 보도가 나온 바 있습니다.

프랙타일의 칩은 아직 실체가 밝혀지지 않았습니다. 실물은 내년 출하될 전망입니다. 즉 앤스로픽은 현재 성능도 검증할 수 없는 반도체를 수천억원어치나 샀다는 뜻입니다. 일반적으로 데이터센터 같은 천문학적인 재원이 투입되는 사업에는 반드시 핵심 컴퓨터 칩의 성능을 정교하게 측정합니다. 이를 '개념 증명(Proof of Concept·PoC)'이라 하는데, 앤스로픽 같은 첨단 기업이 PoC를 생략하고 칩부터 사들이는 건 파격적인 조처입니다.

AI 병목 해결할 구원투수, 인 메모리 칩

발터 굿윈 프랙타일 창업자 겸 최고경영자(CEO). 옥스퍼드대 로보틱스 연구소에서 박사 학위를 받은 공학자로, 프랙타일이 개발한 인 메모리 칩은 기존 반도체 대비 10배 낮은 비용으로 25배 빠른 추론 속도를 기록했다고 밝혀 주목 받았다. 프랙타일 홈페이지

이처럼 앤스로픽이 위험을 감수하고 조기에 확보하려는 프랙타일의 칩은 '인 메모리' 반도체로 알려졌습니다. 인 메모리란 컴퓨터의 메모리와 연산 장치가 사실상 하나처럼 결합한 구조를 뜻합니다.

현재 AI 컴퓨터의 핵심 반도체 구성은 메모리와 연산이 분리된 상태이지요. D램(DRAM), 낸드플래시, 솔리드스테이트드라이브(SDD) 등 데이터 저장을 주로 맡는 메모리가 있고, 중앙처리장치(CPU), 그래픽처리장치(GPU) 등 실제 작업 처리를 맡는 연산 장치가 있습니다.

AI는 막대한 크기의 모델 데이터를 메모리에 기억해 뒀다가, 연산 장치로 옮겨 처리하는 프로그램입니다. 이 때문에 대용량 데이터를 메모리와 연산 장치 사이로 옮기는 대역폭(Bandwidth)이 걸림돌로 작용합니다. 이 문제는 삼성전자, SK하이닉스 등 국내 메모리 대기업이 주력으로 생산하는 고대역폭메모리(HBM)로 해결하고 있는데, 워낙 고가인 데다 발열, 전력 소모 등 문제가 갈수록 커져 AI 기업들의 고민이 깊어지고 있는 상황입니다.

하지만 만일 메모리와 연산 장치를 사실상 하나로 결합해 데이터 이동에 걸리는 물리적 시간을 없애 버린다면, 더는 HBM에 의존할 필요 없이 AI 컴퓨터를 확장할 수 있게 되는 겁니다. 특히 AI 추론 작업에서 지금껏 꿈도 꿀 수 없었던 수준의 비용 효율성을 달성할 수 있게 됩니다.

차세대 반도체 기술 두고 각축전…삼성도 'PIM' 개발 나서

삼성전자가 공개한 'PIM(프로세싱 인 메모리)' 개념도. 삼성은 이미 수년 전부터 메모리와 연산 장치를 결합한 인 메모리 컴퓨터를 연구해 왔다. 삼성전자 홈페이지

그러나 메모리와 연산 장치를 결합하는 건 매우 어려운 일입니다. 나노미터(㎚) 단위의 미세한 회로 안에 메모리와 연산 코어를 동시에 올려놓는 건 기존 반도체 설계의 패러다임을 뒤집는 혁신을 요구하기 때문이지요. 굿윈 프랙타일 CEO는 이 난제를 칩 설계도의 기하학적 형상, 즉 토폴로지 혁신으로 해결했다며 주장하고 있지만, 정말로 작은 스타트업이 거대 반도체 회사들을 제치고 먼저 인 메모리를 완성했는지는 두고 봐야 할 이야기입니다.

앤스로픽은 프랙타일과 같은 혁신 반도체 기업의 '아이디어'를 공격적으로 선점하고 있을 가능성이 큽니다. 프랙타일 수준의 진척은 이루지 못했더라도, 현재 영미권에는 인 메모리 칩을 개발하는 스타트업들이 늘어나고 있기 때문입니다. 이들 중 하나만 성공해도 AI 경쟁의 구도가 바뀔 테니, 수천억원대 비용을 미리 소진하는 건 앤스로픽 입장에서 걸어볼 만한 리스크일 수도 있습니다.

거대 반도체 업체들도 인 메모리 개발에 의욕적입니다. 삼성전자의 경우 지난 수년간 'PIM(프로세싱 인 메모리)'이라는 신개념 메모리 장치를 개발 중이었으니까요. 해당 칩은 삼성의 장기인 D램 내부에 연산 코어를 삽입, 메모리가 자체적으로 데이터 처리도 맡습니다. 삼성은 지난달 말 미국에서 열리는 세계 최대 반도체 학술대회 '핫칩스(Hotchips)'에 참가해 PIM을 깜짝 공개해 엔지니어들의 주목을 받은 바 있습니다.

임주형 기자 skepped@asiae.co.kr