[반도체 코리아]① “생각하는 메모리, 상상치 못 한 일 벌어질 것”… 비밀병기 준비하는 삼성전자

70년 된 컴퓨팅 생태계에 지각변동 진행 중
데이터 병목현상에 발목 잡힌 반도체 혁신
“삼성 아니면 아무도 못 한다”…뚝심 통했다
“초거대 AI, 실시간 통번역 등 활용 무궁무진”

반도체는 명실상부한 한국 대표 수출 산업이다. 올해 10월까지 1117억달러(약 141조원)를 수출하며 단일 품목 중에선 가장 높은 비중을 차지했다. 조 바이든 미국 대통령이 한국을 방문했을 때 가장 먼저 찾은 곳도 세계 최첨단 반도체 공장 중 하나로 꼽히는 삼성전자 평택 반도체 공장이다. 전 세계적인 소비 침체 속에 내년 우리나라 경제성장률 전망치가 1%대를 기록할 것이라는 부정적인 전망이 나오는 것도 최근 반도체 시장 한파와 관련이 깊다. 시장이 혹한기를 견디고 있는 동안에도 삼성전자, SK하이닉스 등 한국 대표 반도체 기업은 D램, 낸드플래시와 같은 기존 주력 메모리 반도체뿐만 아니라 10~20년 뒤를 내다보며 차세대 메모리 반도체 개발에 더 많은 자원을 투자하고 있다. D램, 낸드플래시가 한국 반도체 산업을 지탱하는 버팀목이 된 것처럼 머지않아 거대 인공지능(AI), 완전 자율주행 자동차 등에 필수적인 초고성능 메모리가 대세가 될 수 있기 때문이다. 조선비즈는 삼성전자, SK하이닉스의 차세대 메모리 프로젝트를 책임지고 있는 핵심 인사들을 만나 앞으로 한국 반도체 산업의 대들보가 될 미래 기술에 관해 물었다. [편집자주]

김진현 삼성전자 삼성전자 DS부문 컴퓨팅신사업그룹 수석. /삼성전자 제공

“삼성전자에서 내로라하는 개발자 사이에서도 많은 논의가 있었죠. 메모리 반도체에 두뇌를 장착하는 프로세싱인메모리(PIM)가 뭔지도 불분명했을 뿐만 아니라, 너무 먼 미래를 준비하는 것처럼 보였기 때문입니다. 하지만 포기할 수 없었습니다. 삼성전자가 아니면 누구도 할 수 없다고 생각했고, PIM이 메모리의 미래라는 신념이 있었기 때문입니다.”

김진현 삼성전자 메모리사업부 컴퓨팅신사업그룹 수석은 지난해 12월 27일 조선비즈와 인터뷰에서 이렇게 말했다. 세계 1위 메모리 반도체 기업이 짊어지고 있는 의무감과 책임감 그리고 평생 반도체 하나만을 연구해온 엔지니어의 자존심이 서린 말이었다.

◇ 70년 된 컴퓨터 구조, 근본적 혁신 준비한 삼성

그래픽=손민균

올해 메모리 반도체 시장에 등장해 가장 대표적인 차세대 메모리 기술로 인식되기 시작한 프로세싱인메모리(Processing In Memory), 줄여서 ‘PIM’이라고 부르는 이 기술은 사실 1970년대부터 논의되던 개념이다. 현재 우리 주변에 존재하는 대다수의 컴퓨터, 스마트폰, 웨어러블 등의 전자기기는 ‘폰 노이만(von Neumann)’ 컴퓨팅 구조로 설계돼 있다. 폰 노이만 구조란 연산 기능을 담당하는 중앙처리정치(CPU)를 두뇌로, 그 밑에 임시저장장치인 메모리, 정보를 저장하는 스토리지 등 3개 계층으로 이뤄진 구조를 말한다. 컴퓨팅의 기본 개념을 정의한 폰 노이만 구조는 1945년대 처음 등장한 이후 약 70년 넘게 컴퓨터, 스마트폰, 데이터센터 등 기계연산이 필요한 모든 분야의 골격이 됐다.

하지만 이제는 유효기간이 거의 다 됐다는 평가가 나온다. 데이터가 중앙처리장치(CPU)-메인메모리-스토리지를 이동하는 과정에서 데이터 이동속도가 저하되는, 소위 ‘폰 노이만 병목현상’이 발목을 잡고 있기 때문이다. 특히 통신 기술의 발달과 데이터, 콘텐츠의 이동량이 기하급수적으로 증가한 최근에는 이런 데이터 병목현상이 기술 진보의 걸림돌이 되고 있다.

김 수석은 “PIM은 1970년대 이미 컴퓨팅 구조학계에서 제안되었을 정도로 (폰 노이만 구조를 극복할) 필요성과 목적이 명확했다”며 “대량의 데이터가 CPU와 메모리 반도체 사이를 이동하면서 발생하는 병목현상을 비롯해 CPU와 메모리 반도체의 성능 격차도 컴퓨팅 혁신의 걸림돌이 될 것으로 예견됐었다”고 말했다. 그는 “그동안은 메모리 반도체 미세화를 통한 속도 증가와 CPU, GPU의 병렬연결 등을 통해 병목현상을 극복해왔지만 AI, 자율주행, 빅데이터 등 기하급수적으로 증가하는 데이터를 처리하기에는 한계점이 명확해졌다”고 덧붙였다.

그래픽=손민균

여기에 구원투수로 등장한 것이 바로 PIM이다. PIM은 쉽게 말해 ‘지능을 갖춘 메모리’다. 단순히 데이터를 저장, 기억만 하던 메모리 반도체의 기능을 연산·추론으로 확대한 것이다. CPU 혼자서만 두뇌 역할을 하는 구조에서는 데이터를 처리할 때마다 ‘CPU-메모리-스토리지’ 단계를 오가야 하는 비효율성이 있다. 하지만 PIM 도입과 함께 ‘중앙집권형’ 연산 체계가 분권형으로 바뀌게 되고 데이터 처리의 효율성이 높아질 뿐 아니라 전력효율성도 비약적으로 끌어올릴 수 있다.

학교에 비유하면, 기존 폰 노이만 컴퓨팅 구조에서는 교장(CPU)이 A라는 학생(데이터)을 찾기 위해 10명의 담임(D램)을 호출하고, 담임이 각각 흩어져 각 학급(스토리지)의 반장에게 A라는 학생을 찾아내도록 지시한다. 반장이 학급을 뒤져 A라는 학생을 찾아내면 담임에게 인계된 이후 교장과의 면담이 이뤄지는 곳으로 A를 안내한다. A라는 학생을 찾아내기까지 최소 3~4단계의 과정이 필요한 셈이다. 반면 PIM은 모든 프로세스가 분업된다. 교장과 거의 비슷한 권한을 가진 10명 부교장이 이미 각 학급에 배치돼 있기 때문에 단번에 A라는 학생을 찾아내 곧바로 면담이 가능한 공간으로 불러낼 수 있다.

삼성전자는 오랜 기술 개발 끝에 지난해 세계 최대 반도체 학회인 ISSCC 2021에서 해당 기술을 적용한 고대역폭메모리(HBM)를 발표했다. 이후 최근에는 GPU를 PIM으로 전환해 이를 96개로 엮어 대형 컴퓨팅 시스템을 만드는 실험을 하기도 했다. 전 세계에 하나뿐인 이 대형 PIM으로 언어모델 알고리즘을 학습시켜본 결과 PIM을 사용하지 않았을 때보다 성능은 2.5배 상승했고 전력 소비는 2.67배 절감되는 효과를 보였다.

◇ 뉴메모리 시대는 온다

삼성전자가 PIM에 대해 본격적으로 공을 들이기 시작한 건 2012년 딥러닝(Deep Learning)과 같은 인공지능 기술이 꽃 피우기 시작한 이후다. 다만 당시엔 삼성전자 내부적으로도 어떤 식으로 기술을 개발할지에 대한 합의도 없는 상태였고, 기술이 개발된다고 해도 어느 분야에 적용될지에 대한 뚜렷한 목표가 없었다.

당시를 회상하며 김 수석은 “처음 PIM을 개발할 당시 상품기획, 개발자들이 머리를 맞대 많은 시간을 할애해 치열하게 논쟁했다”고 말했다. 삼성전자 내부적으로는 이런 중장기적 프로젝트를 메모리사업부 차원에서 준비하는 것이 맞느냐는 반대의 목소리도 있었다. PIM 기술 개발을 주장했던 연구진은 머지않아 AI, 데이터센터, 모바일, 고성능 컴퓨팅(HPC) 분야에 PIM이 새로운 표준이 될 것이라고 끊임없이 강조했고, 그 예상은 거의 맞아떨어지는 분위기다. 현재 삼성전자는 당시 목표로 삼았던 모든 고객사와 협업을 진행 중이다.

김진현 삼성전자 DS부문 컴퓨팅신사업그룹 수석(왼쪽)이 팀원들과 이야기를 나누고 있다. /삼성전자 제공

고집과 뚝심도 필요했다. 진정한 혁신을 이뤄내기 위해서는 기존에 널리 사용되고 있는 일반 CPU, GPU 등 어느 곳에 붙여도 의미 있는 성능 향상을 낼 수 있어야만 했다. 김 수석은 “당시 우리가 절대 타협하지 않은 부분은 기존에 사용하던 CPU·GPU를 바꾸지 않고도 성능을 내야 한다는 것이었다”고 말했다. 삼성전자의 고객사들이 굳이 CPU, GPU를 교체하지 않고 삼성전자의 신기술을 접목해 근본적인 혁신이 가능하다는 것을 입증해야 한다는 것이었다.

이 과정에서 삼성전자는 타사와의 파트너십이나 산학협력에 일부 존재했던 벽도 완전히 없앴다. 김 수석은 “PIM을 효과적으로 사용하기 위해서 가장 적합한 응용을 중심으로 성능 향상과 응용 서비스 생태계가 구축되어야 한다”며 “삼성전자는 고대역폭메모리(HBM)와 PIM을 결합한 제품을 널리 확산하기 위해 PIM 개발 환경을 완전히 개방했고, PIM 생태계를 구축하기 위해 외부기업, 국책연구소 등 다양하게 교류하고 있다”고 말했다. 이어 “PIM의 성공은 훌륭한 제품뿐만 아니라 잘 구축된 생태계에 달려 있다”고 덧붙였다.

◇ ‘초거대 AI’ 등장, 한 손에 들어오는 AI비서까지

“PIM은 기존 메모리 제품의 속도를 높이는 가속기 수준에 한정되지 않습니다. 메모리가 연산하는 순간 기존에는 생각하지도 못했던 많은 일들이 일어나게 될 것입니다.”

삼성전자는 초기에 PIM의 사용처로 슈퍼컴퓨터나 데이터센터 등 고성능 컴퓨팅이 필요한 분야를 목표로 삼았다. 이제는 그다음으로 넘어가는 단계를 밟고 있다. 김 수석은 “PIM이 고대역폭메모리(HBM)에 먼저 적용된 건 고성능컴퓨팅(HPC)이나 대형 IT 기업의 데이터센터를 목표로 했었기 때문이다”라며 “추후 모바일, 그래픽, 자동차 등으로 넘어가는 것 당연한 순서다”라고 말했다.

그는 이어 “이런 메모리 중심의 PIM 응용 기술이 확대된다면 인간의 두뇌와 같은 ‘초거대 AI’ 모델을 저전력으로 구축할 수 있다”고 말했다. 초거대 AI는 대용량 하드웨어에 AI기술을 적용한 AI 슈퍼컴퓨터를 말한다. AI가 학습한 데이터가 저장되는 곳인 파라미터(매개변수)가 보통 1조개가 넘는다. 파라미터는 사람 뇌에서 정보를 학습하고 기억하는 시냅스와 비슷한 역할을 한다. 스스로 학습하고 답을 내놓는, 가장 완전한 형태의 AI다. 김 수석은 “초거대 AI는 실시간으로 통번역을 지원하는 기술이나 챗봇(Chat Bot), 기후예측, 생명공학 등에도 적용될 수 있다”고 말했다.

아마존웹서비스(AWS) 데이터센터 내부 전경.

또 모바일 기기 자체의 AI 기능도 향상된다. 이전까지는 스마트폰, 웨어러블 등이 AI 서비스를 지원하기 위해서는 정보가 데이터센터의 고성능 CPU를 거쳐야했지만 이제는 스마트폰이 자체적으로 일정한 수준의 AI 기능을 갖춰 더 빠르고 사용자에 최적화된 서비스를 제공할 수 있다는 것이다. 소비자 입장에서는 자기 손안에 저전력으로 구동되는 AI 비서를 온·오프라인 상태에서 자유롭게 사용할 수 있게 된다는 의미다.

세계 각국이 PIM 기술 확보에 열을 올리는 것도 이 때문이다. 유회준 KAIST 전기및전자공학부 교수는 “반도체 업계를 주도하는 선진국들은 이제 국운을 걸고서 프로세싱인 시장에 덤비고 있다”며 “미국, 일본, 대만, 중국 모두 마찬가지다. 이런 상황에서 삼성전자, SK하이닉스 같은 국내 메모리 반도체 기업이 살아남으려면 PIM 반도체 분야를 공략해야만 한다”고 말하기도 했다.

PIM의 등장과 함께 메모리 반도체가 AI에 결합되기 시작하면서 AI 반도체 시장도 급격하게 성장하고 있다. 시장조사기관 가트너에 따르면 AI 반도체 시장 규모는 지난해 360억달러(약 45조원)였다. 그러나 내년 550억달러(약 69조원)로 확대되고 오는 2025년에는 770억달러(약 97조원)까지 성장할 것으로 전망된다.

- Copyright ⓒ 조선비즈 & Chosun.com -