통신업계, AI 반도체 인프라 구축 속도전

SKT, 사피온 적용 늘리고
KT, 리벨리온 활용 높여
엔비디아 칩 의존도 낮춰
AI 서비스 확대 맞물려
비용 줄이고 경쟁력 확보

SK텔레콤(SKT)의 인공지능(AI) 반도체 자회사 사피온이 지난 16일 새로운 AI 반도체 'X330'을 공개하며 이동통신사 간 AI 반도체 경쟁도 거세지고 있다. 이동통신사들이 AI 사업 확대에 맞춰 엔비디아에만 인프라스트럭처를 의존하는 것이 아닌, 'AI 인프라'를 담당할 국내 기업과의 협력도 강화하는 것이다. SK텔레콤은 자회사인 사피온과 스팸 탐지 기술 등 자사 서비스에 사피온 적용을 확대해 나가는 가운데 KT는 AI 반도체 기업 리벨리온과 함께 KT의 초거대 AI 모델 '믿음' 서비스를 고객사에 제공하고 있다.

현재 AI 반도체 시장은 엔비디아의 그래픽처리장치(GPU)가 80~90% 점유율을 기록하며 사실상 독점하고 있는 것으로 파악된다. 이러한 가운데 마이크로소프트(MS)가 이달 진행한 연례 콘퍼런스 '이그나이트 2023'에서 자체 개발한 AI 반도체 '마이아 100'을 공개하는 등 기업들도 엔비디아에 대한 의존도를 낮추고 자체 기술을 확보하기 위해 AI 반도체에 뛰어들고 있는 것이다.

우선 SK텔레콤은 사피온을 활용해 자사가 가진 AI 솔루션의 경쟁력을 확보하는 데 집중하고 있다. 특히 이번에 출시한 신경망처리장치(NPU) X330은 트랜스포머 계열의 거대언어모델(LLM) 연산을 지원하면서 AI 성능이 향상됐다. 또한 엔비디아의 'L40S' 모델 대비 연산 성능이 약 2배 빠르다고 사피온은 설명했다.

SK텔레콤은 사피온으로 구축한 7.6페타옵스 규모의 NPU 팜을 활용한다. 사피온은 지난 15일 진행한 기자간담회에서 자체 반도체를 활용한 SK텔레콤 서비스 적용 사례로 다회용 컵 프로젝트인 '해피해빗'에서 다회용 컵을 인지하는 비전 AI 기술 등을 제시했다. X330은 절대 성능이 4배 이상 향상됐다. 전작인 X220 4장으로 처리했던 신경망 추론이 X330 한 장으로 가능하다. 이처럼 다수의 요청을 한 번에 처리할 수 있는 역량을 활용해 사피온을 적용한 보이스피싱 방어, 스팸·스미싱 문자 탐지 기술도 조만간 개발될 예정이다.

이 밖에 사피온을 활용한 SK텔레콤 AI 서비스는 아직 공개되지 않았다. 다만 류수정 사피온 대표는 "SK텔레콤과 SK그룹이 보유한 AI 솔루션을 사피온에서 어떻게 동작시키고 경쟁력을 높일 것이냐가 중요하다"고 말하며 SK텔레콤과의 긴밀한 협력을 시사했다.

KT는 리벨리온을 자사 서비스에 적용하는 것에서 나아가 기업 간 거래(B2B) 사업에도 리벨리온을 적극 활용하고 있다. 리벨리온 NPU '아톰'을 활용한 자체 초거대 AI '믿음'을 자사 서비스에 적용하는 것과 동시에 B2B 고객에게도 제공하는 것이다. 리벨리온은 토종 AI 반도체 기업으로, KT와 리벨리온은 지난해 7월 KT가 300억원의 전략투자를 단행하며 'AI 풀스택' 동맹을 맺은 관계다. KT가 활용하는 리벨리온의 아톰은 사피온의 X330처럼 트랜스포머 언어 모델과 부동 소수점 연산을 지원해 LLM 실행이 가능하다. 리벨리온은 믿음 출시 이전에도 KT 클라우드와 협력해 클라우드 기반의 NPU 인프라를 상용화한 바 있다. KT는 리벨리온과의 협업을 통해 자체 인프라를 강화하고 비용 경쟁력을 키우고 있다. KT는 지난 믿음 간담회 당시 "리벨리온과 협업해 전력 효율은 6배 높이고 추론 비용은 50% 낮췄다"고 밝혔다.

한편 리벨리온 내년 1분기에 초거대 AI 모델에 최적화된 '아톰 플러스' 반도체 양산을 시작한다.

[정호준 기자]