“한국은 안될거야” vs “잭팟 터진다”…미래산업 향한 두가지 시선 [나기자의 데이터로 세상읽기]

챗GPT 덕분에 뜨는 AI반도체
1위 엔비디아, 어닝 서프라이즈
AI반도체 年100조원 시장 될듯
퓨리오사 리벨리온 사피온 등
국내 3사 AI반도체 개발 나서
개발플랫·시공 등은 아직 뒤져
전기료 절감 등으로 승부 나서
국산 AI반도체 비관론도 제기

젠슨 황 엔비디아 CEO.

[나기자의 데이터로 세상읽기-32]

챗GPT가 대박이 나면서 세계적인 반도체설계 기업인 미국 엔비디아가 올해 1분기 깜짝 실적을 기록했죠. 삼성전자 SK하이닉스 등이 분기별 수조원의 적자가 나는 ‘반도체 빙하기’인데도 AI 반도체 매출(데이터센터)이 약 43억 달러로 전년 동기대비 14%나 성장한 건데요. 덕분에 당일 시장외 거래서 주가가 25%나 폭등하기도 했죠.

핵심은 인공지능을 훈련·추론(결과물을 내는 역할)을 할 수있는 AI반도체입니다.

엔비디아 GPU는 AI반도체 분야서 시장 점유율 92%를 기록하고 있는데요. 이런 엔비디아에 도전하는 국내 업체 3사(퓨리오사AI, 리벨리온, 사피온)가 있습니다. 이들 3사는 각각 네이버 KT 그리고 SK텔레콤 등 국내 IT대기업들의 투자를 받기도 했죠.

그렇다면 국내 AI반도체 회사는 어떤 경쟁력이 있을까요? 비관론과 낙관론 등을 종합해 이번 연재기획을 해보겠습니다.

“엔비디아란 거대한 장벽을 뚫긴 힘들거다”

이종호 과학기술정보통신부 장관이 24일 오후 서울 강남구 퓨리오사AI를 방문해 백준호 퓨리오사AI 대표로부터 ‘AI반도체 소개 및 영상인식 기술’ 설명을 듣고 있다. <과기정통부홈페이지>

이종호 과기정통부 장관이 지난해 5월 취임 이후 처음으로 외부에 방문한 곳이 AI반도체 회사인 퓨리오사AI입니다. IT분야 주무부처인 과기정통부는 2030년대 1000조원대(시장 전망치)까지 성장할 전세계 AI산업서 핵심부품 역할을 할 AI반도체를 국산화·자립화하겠다고 지난해 말 발표했는데요. MS·구글·메타 등 다른 미국 빅테크들도 자체적으로 AI반도체를 만들 정도로 시장이 핫한 상황이어서, 정부도 적극적으로 나서겠다는 뜻을 비춘 것이죠.

다만 현재로선 학계 등서 비관론이 많은 상황입니다.

근거는 총 3가지인데요.

첫째, 국산AI반도체는 개발자 친화적이지 않다는 겁니다.

엔비디아는 개발자용 플랫폼인 쿠다(CUDA)를 지원합니다. 쿠다는 거의 모든 개발자 도구(파이썬, 파이토치, 텐서플로우)와 연동됩니다. 품질이 균질한 걸로 유명하죠. 스타트업에 종사하는 한 개발자는 “쿠다에 비해 국산 AI반도체가 지원하는 개발자 프로그램이 제한적이어서 개발자 사이에선 인기가 없을 수밖에 없다”고 말합니다.

엔비디아는 2만6000여명의 임직원이 근무하며 한 해 약 30조원(269억 달러)를 벌어들입니다. 한 해 R&D(연구개발)에만 3~5조원(올해는 8조원 목표)를 쓸 정도로 막대한 투자를 하죠. 태생은 하드웨어(반도체) 기업이지만 스탠포드대 UC버클리 등 유수 대학 인공지능 소프트웨어 연구진들에게 엄청난 후원을 하고 있습니다.

엔비디아에 비하면 국내 AI반도체는 수백억원~수천억원의 투자금을 모은 작은 기업입니다. 체급이 다르니 엔비디아가 십수년간 수조원을 들여서 만든 쿠다를 이길만한 개발자용 플랫폼을 단기간에 만들긴 힘들것이란 관측이 나옵니다.

둘째, 반도체 시공능력의 한계입니다.

한 반도체분야 교수는 “반도체는 설계와 시공으로 나뉘는데, 설계서 아무리 우위가 있어도 시공이 뒷받침 되지 않으면 안된다”고 말했는데요. 엔비디아는 세계 1위 반도체 파운드리(생산) 업체인 대만 TSMC의 제1고객입니다. 반면 국산AI반도체 회사들은 TSMC, 삼성전자와 계약관계를 맺고 있긴 하지만 제1고객은 아니죠. 그러다보니 시공능력서 열세일 수밖에 없다는 진단입니다.

가장 큰 건 가격경쟁력입니다.

AI분야 한 스타트업 대표는 “반도체 사업이 성공하려면 대량발주를 통해 단가를 인하해야 하는데, 국산AI반도체는 아직 찾는 수요가 많지 않다보니 소량 발주형태일 수밖에 없고 이 때문에 가격 경쟁력이 크지 않다”고 말합니다.

엔비디아 GPU(A100) 1대값이 1300만원일 정도로 엔비디아 반도체 칩은 가격이 높죠. 엔비디아가 영업이익률을 20%나 가져갈 수 있는 비결입니다. 근데 국산AI반도체 칩이 이보다 확실하게 저렴하다고 볼 수 없다는게 업계 관계자 전언입니다.

국산의 반격 “전기료 등 운용비 66% 절감”

그럼에도 비관론만 있는 것은 아닙니다.

우선 정부가 국산AI반도체의 ‘주요 고객’이 될 예정입니다. 2030년까지 무려 1조원(연평균 1400억원)에 가까운 투자를 할 예정인데요. 국산AI반도체는 정부 일감만 받아도 우선 자립은 할 수 있을 듯 합니다.

국산AI반도체 대표주자인 퓨리오사AI 관계자에게 위의 3가지에 대해 물어봤습니다.

우선 국산AI반도체도 개발자친화적 플랫폼을 내놓을 예정입니다.

퓨리오사AI가 내년에 출시할 2세대 제품엔 AI개발자가 주로 쓰는 개발도구인 파이토치2.0가 최적화될 전망입니다. 앞서 밝혔듯이 엔비디아가 AI반도체서 독주를 하다보니, 메타 MS 등 이 분야 후발주자들이 너도나도 AI반도체를 내놓고 있는데요. 이 관점에서 메타가 내놓은 개발자 도구인 파이토치2.0은 엔비디아 쿠다에 대한 의존도를 낮추는 방향으로 대중에 공개됐다고 하네요.

한마디로, 하드웨어(엔비디아) 업체가 시장을 장악하고 있다보니, 하드웨어 의존도를 줄이려는 소프트웨어 진영(메타 MS, 구글)의 반격이 펼쳐지고 있는 것이죠.

퓨리오사AI AI반도체 칩

퓨리오사AI는 이 흐름을 탈 예정입니다. 메타의 파이토치2.0과 연동시키면 퓨리오사AI도 나름 경쟁력이 있을 것이란 계산이죠. 퓨리오사AI 관계자는 “2세대 제품을 통해 북미시장 공략에 적극 나서겠다”고 밝혔습니다.

시공능력 한계와 관련해서도 보완책이 있다고 말합니다.

퓨리오사AI는 TSMC의 자회사이자 반도체 디자인하우스인 GUC(글로벌유니칩)과 관계를 맺고 있는데요. 비록 엔비디아가 제1고객인건 맞지만, 퓨리오사AI와 같이 일하는 GUC·TSMC 관계자들도 결코 더 낮은 수준의 시공 엔지니어가 아니라는게 퓨리오사AI측 설명입니다.

마지막으로 가격경쟁력과 관련해서 퓨리오사AI측은 가격은 발주하는 고객사별로 천차만별인점을 강조합니다.

아울러 가격보다는 전성비(사용전력 대비 성능)을 따져봐야 한다고 강조합니다.

퓨리오사AI는 챗GPT 운용비용을 엔비디아칩에 비해 최대 66% 줄일 수 있다고 말했습니다. 산업용 전기료가 지난해부터 오르면서 국내 대표기업인 삼성전자는 지난해 한 해만 1조7000여억원의 전기사용료를 지불했는데요. 올해 두 차례 더 올랐으니 이 비용은 계속 오를 겁니다.

챗GPT와 같은 초거대AI는 막대한 반도체칩이 있는 데이터센터가 필요합니다. 챗GPT만 해도 1만개의 엔비디아 A100 반도체칩이 탑재됐다고 하죠. 데이터센터는 ‘전기 먹는 하마’입니다.

당장 국내서 데이터센터를 운영 중인 통신3사는 잇다른 산업용 전기요금 인상으로 인해 분기별 수백억원의 비용이 추가되면서 올해 1분기 실질적으로 마이너스 성장률을 기록했죠.

그런 면에서 퓨리오사AI측은 ‘전성비’를 강조하고 있는 겁니다. 막대한 운용비 줄이고 싶어? 그러면 국산 AI반도체를 구매하라는 것이죠.

340조원 시장, 국산AI반도체 얼마나 성장할까

그러면 AI반도체의 전망은 어떨까요?

시장조사기관인 가트너에 따르면, 2022년 444억 달러(57조원)인 AI반도체 시장은 2026년 861억 달러(111조원)로 2배 성장할 전망입니다.

만일 국산AI반도체 3사가 수출에도 성공하면서 시장 점유율을 20%만 가져가면? 20조원대 매출을 기록할 수 있습니다. 네이버와 카카오 합산 매출액(약 14조원)을 넘어서는 엄청난 수치죠.

수출까진 못해도 국산화를 통한 자립에 성공한다면? 보통 국내 시장은 글로벌 시장의 약 2%입니다. 그렇게 되면 국산AI반도체 회사가 약 2조원의 시장을 나눠먹는 구조가 되죠. 이것만 돼도 평균 연매출 8000억원 가량의 견실한 중견회사가 될 수 있습니다.

글로벌 AI반도체 시장 규모 <출처=매경DB>

정부와 국산AI반도체 회사들은 수출대박을 통한 ‘잭팟’을 기대하고 있습니다.

여기엔 엔비디아가 다 시장을 먹지 못할 것이란 계산이 숨어 있습니다. 실제로 비트코인의 경우는 채굴용 반도체로 엔비디아 GPU가 초반엔 주로 쓰였지만, 비트코인 시장이 확대되고 성숙화되면서 엔비디아 GPU보다 더 저렴한 비트코인 채굴 특화반도체(ASIC)가 주로 쓰이고 있습니다. 이 부분을 국산AI반도체가 노리고 있는 것이죠.

다만 가장 큰 리스크는 챗GPT, 즉 생성형AI 모델이 AI의 ‘종착지’일 것이냐는 겁니다.

챗GPT의 근간이 되는 트랜스포머 모델은 AI모델의 한 종류입니다. 트랜스포머 모델은 현존 최고의 AI모델이지만 콘텍스트윈도우(Context Window·처리할 수 있는 입력과 출력 텍스트 양)가 4000단어에 불과하다는 점이 한계로 지적되죠.

AI학계선 이 같은 한계를 돌파하려는 다양한 실험이 이어지고 있습니다. 보통 AI모델이 5년에 한 번씩 바뀐다고 하죠. 만일 5년 후에 트랜스포머 모델을 뛰어넘는 더 좋은 AI모델이 나온다면? 트랜스포머 모델에 기반해 만든 AI반도체가 한 순간에 무용지물이 될 수 있다는 진단이 나옵니다.

(이 지점서 엔비디아의 무서움이 나옵니다. 엔비디아는 세계 유수 AI소프트웨어 연구진과 협업하며 여러 AI모델의 발전방향을 계속 추적하고 있는 것으로 알려져 있죠)

추경호 경제부총리 겸 기획재정부 장관 (앞줄오른쪽)이 7일 삼성전자 평택캠퍼스를 방문해 경계현 삼성전자DS 부문 사장(왼쪽) 과 함께 반도체 웨이퍼를 살펴보고 있다. 추 부총리는 “반도체는 한국 경제의 생명줄과 같은 산업” 이라며 “초격차 확보를 위해 전폭적으로 지원하겠다”고 말했다. /사진제공=연합뉴스

결국 정리하자면 정부와 국산AI반도체 3사는 트랜스포머 모델이 AI모델의 종착점이라고 보고 배팅을 하고 있는 겁니다. 이에 대해서 의구심을 품는 쪽에선 이들 관점이 ‘AI반도체’에서 ‘AI’(전자)가 아니라 ‘반도체’(후자)에 초점을 맞추고 있다고 비판하고 있고요. 이 과정에서 그동안 국내 메모리 반도체 성공신화를 이뤘던 학계 및 연구계 원로들이 반도체 위주의 논의를 주도하면서, 정작 챙겨야할 AI소프트웨어 분야는 소홀한다는 목소리도 나옵니다. 정부 발주 ‘1조원 + 알파’ 예산 중 상당수는 학계 기득권을 유지해줄 ‘연구를 위한 연구’로 전락할 수 있다는 있다는 의구심이 제기되는 겁니다.

국산 AI반도체 성공여부는 지금으로선 모른다가 답인듯 합니다. 워낙 빨리 움직이는 AI산업 특성상 언제 어떻게 바뀌어도 이상할 것이 없기 때문이죠. 낙관론과 비관론이 팽팽히 맞서고 있습니다.

이번 기획의 마무리는 전망을 나열하는 것으로 끝내겠습니다. 독자 여러분이 몇년 후 과연 AI반도체가 성공할지 직접 따져보면 좋을 듯 합니다. 저는 수년 후 그 결과를 보고 다시 이 연재기사를 인용하며 글을 써보겠습니다. 감사합니다.

---

낙관론 : 트랜스포머 기반 AI반도체 시장이 커질거고, 그 시장 중 일부를 국산AI반도체가 가져갈거다. 유수대학을 나온 훌륭한 엔지니어들이 더 효율적인 칩들을 설계·생산하고 있다.

비관론 : 엔비디아가 독주 중이어서 파고들 틈이 없을 거다. AI반도체로 한 탕 해먹으려는 테마주 느낌이 든다. AI 소프트웨어 관련 역량을 기르는데 지금보다 더 집중해야 한다.