데이터센터 소통 문제 해결한 자, 주가가 폭등할 것이다 [이승우의 반도체 오디세이]

인공지능(AI) 시대에 ‘소통’이란 화두가 던져졌다. 더 빨리 소통해야 데이터센터의 효율성이 극대화되기 때문이다. AI가 고도화될수록 데이터센터 끼리의 원활한 소통이 중요하다. 그래야 낮은 전력으로 고효율을 내면서 AI 사업성이 살아난다. 이 소통 문제를 푸는 기업이야말로 향후 주가가 폭등할 것이다.

매경플러스(매플)의 ‘머니닥터’ 이승우 유진투자증권 리서치센터장은 ‘이승우의 반도체 오디세이’를 통해 ‘AI 데이터센터 병목 푸는 빛’을 주제로 심도깊은 분석에 나섰다. 그의 의견을 Q&A 식으로 정리했다. 이 센터장은 AI와 신기술 발전이 어떻게 반도체 시장을 바꿀 지를 매플 연재에서 이어갈 예정이다.

아마존의 데이터센터 [AWS]

- GPU만 많으면 AI 시장에서 승리하는 것 아닌가

그동안 인류는 디지털 정보를 전기처럼 생각했다. 전선이 연결되면 신호가 흐르고, 신호가 흐르면 계산이 일어난다. 그렇게 보면 컴퓨터는 결국 전자의 문명이었다. 반도체 안의 작은 스위치들이 켜지고 꺼지며 0과 1을 만들었고, 그 0과 1이 금융, 검색, 쇼핑, 소셜미디어, 그리고 인공지능을 탄생시켰다.

그러나 AI(인공지능) 시대의 데이터센터는 조금 다른 각도에서 질문을 던지고 있다. 더 많은 GPU를 사면 충분한가. 더 큰 데이터센터를 지으면 충분한가. 더 많은 전력을 끌어오면 충분한가.

답은 점차 더 분명해지고 있다. 이제 중요한 것은 계산 그 자체만이 아니라 계산하는 존재들이 서로 얼마나 빨리, 얼마나 낮은 전력으로, 얼마나 안정적으로 소통할 수 있느냐가 중요해지고 있다는 것이다.

AI 데이터센터의 본질은 거대한 두뇌를 넘어 거대한 사회에 가깝다. 하나의 GPU는 한 명의 천재라 할 수 있을 것이다. 하지만 수십만 개의 GPU가 하나의 모델을 학습하기 위해서는 천재들의 협력과 집단지성이 필요하다.

문제는 집단지성이다. 구성원들이 서로 대화하지 못하면 집단은 천재들의 군집이 아니라 고립된 개인들의 집합에 머문다. AI 데이터센터에서 네트워크가 중요한 이유가 바로 여기에 있다.

- 네트워크 병목을 푸는데 광통신이 답인가

초기 데이터센터에서 광기술의 역할은 비교적 명확했다. 멀리 떨어진 데이터센터와 데이터센터를 연결하거나, 데이터센터 내부에서 랙과 랙을 연결하는 것이 핵심이었다. 광통신 기술은 먼 거리를 빠르게 잇는 고속도로였다. 데이터센터 A와 데이터센터 B 사이에 데이터를 보내고, 여러 랙의 서버들을 하나의 클러스터로 묶는 역할이었다. 이것이 데이터센터의 ‘Scale Across’와 ‘Scale Out’ 영역에서 광통신기술이 확산된 배경이다.

하지만 AI는 컴퓨팅의 지도를 다시 그리고 있다. 과거의 광이 도시와 도시, 건물과 건물, 랙과 랙을 잇는 기술이었다면, 앞으로의 광은 서버 내부, 더 나아가 GPU와 GPU 사이로 비집고 들어갈 가능성이 커지고 있다. 인간 문명으로 비유하면, 예전의 광통신은 대륙을 잇는 철도와 항만에 가까웠다.

이제는 그것이 도시 내부의 도로망을 넘어, 건물 안의 엘리베이터와 복도, 심지어 방과 방 사이의 통로로 들어오려는 것이다. 이 변화의 중심에 CPO, 즉 Co-Packaged Optics(스위치 칩과 광모듈을 패키지로 통합하는 광통신 기술)가 있다.

- 왜 구리 대신 광통신인가

기존 방식에서는 스위치나 서버 안의 전기 신호가 장비 앞단의 광트랜시버까지 이동한 뒤, 그곳에서 빛으로 바뀌었다.

그러나 데이터 전송 속도가 높아질수록 이 짧아 보이는 전기 구간마저 부담이 된다. 전기 신호는 빠르지만, 아주 빠른 속도와 높은 밀도에서는 손실, 발열, 전력 문제가 커진다. CPO의 핵심은 광엔진을 스위치 ASIC이나 GPU 패키지 가까이 배치해 이 전기 구간을 줄이는 것이다. 데이터를 한참 전기로 끌고 간 뒤 빛으로 바꾸는 것이 아니라, 출발지 근처에서 바로 빛으로 바꾸려는 시도다.

이것은 단순한 부품 배치의 변화가 아니다. 데이터센터의 공간 구조와 경제학이 바뀌는 문제가 된다. 지금까지 GPU와 GPU를 가까운 거리에서 연결하는 Scale Up(수직적 성능 향상) 영역은 주로 구리가 담당했다. 가까운 거리에서는 구리가 싸고, 편하고, 충분히 빨랐다.

하지만 하나의 AI 시스템으로 묶고 싶은 GPU 수가 늘어나고 랙의 사이즈가 커지면서 상황이 달라지고 있다. 한 랙 안의 GPU를 연결하는 것을 넘어, 여러 랙의 GPU를 하나의 거대한 컴퓨터처럼 움직이게 하려면 더 긴 거리에서 더 높은 대역폭과 낮은 지연시간을 유지해야 한다. 이때부터 구리는 버거워지고, 광(光)이 이를 대신할 후보로 떠오른다.

기사 전문은 매일경제신문의 프리미엄 재테크 콘텐츠 플랫폼 매경플러스에서 확인할 수 있습니다. 네이버에서 ‘매경플러스’를 검색하거나 아래 QR코드를 스마트폰으로 찍으면 연결됩니다.