[르포] 16단 HBM·액침냉각 기술까지… 한눈에 보는 AI 시대

'SK AI 서밋 2024'를 가다
지능형CCTV로 안전사고 대비
텔코 LLM 활용 HR어시스턴트
뇌파 분석해 뇌전증 발작 예측

코엑스 그랜드볼룸에서 열린 'SK AI 서밋' 전시관 전경. 김나인 기자

코엑스 그랜드볼룸에서 열린 'SK AI 서밋' 전시관 전경. 김나인 기자

'엣지 AI CCTV 산업안전 솔루션' 전시 모습. 김나인 기자

SK AI DC의 액침냉각 기술 등 전시 모습. 김나인 기자

뇌전증 관리 AI 플랫폼 '프로젝트 제로' 전시 모습. 김나인 기자

'HBM3E' 16단 제품 및 엔비디아 'GB200' 전시. 김나인 기자

5일 서울 강남구 코엑스의 'SKAI 서밋 2024' 행사장. 전시장을 들어서자 SK그룹 계열사와 파트너들이 펼칠 AI 미래가 한눈에 들어왔다. 이틀 동안 3만5000명이 등록한 서밋의 전시장은 발 디딜 곳 없이 북적였다.

"AI 데이터센터(DC)는 SK 그룹사와 계열사들이 보유한 기술의 집약체입니다."

행사에서 핵심 키워드로 부각된 AI 인프라의 근간인 AI DC 모습이 눈에 들어왔다. AI DC의 최적 전력 공급을 계획하고 운영하는 SK텔레콤의 솔루션인 'AI 파워 오퍼레이션'부터 수소연료전지, 태양광, 소형원자로 등 에너지 기술도 한자리에 전시됐다.

SK엔무브의 주요 파트너사인 '기가바이트'가 개발한 액침냉각 시스템 전용 AI 서버에서는 공기 방울이 뿜어져 나왔다. 액침냉각은 '전기 먹는 하마'로 불리는 AI DC 서버의 열기를 식혀주는 해법으로 주목 받고 있다. 기가바이트는 중앙처리장치(CPU)와 그래픽처리장치(GPU)를 냉각수에 담그는 직접액체냉각 솔루션을 선보였다. 액침냉각은 공기냉각인 공랭식과 비교해 효율성이 높다는 평가를 받는다. 부스에서 만난 회사 관계자는 "서버를 냉각수에 담그는 액침냉각 기술은 공랭식에 비해 공간 효율이 45%, 에너지 효율은 3배 가량 높다"고 설명했다.

전시 부스에서는 SK하이닉스가 전날 세계 최초로 공식화한 5세대 고대역폭메모리 'HBM3E'의 16단 제품도 선보였다. HBM3E 16단 제품은 기존 12단을 넘어선 HBM3E 최고층 제품이다. 단수가 높아질수록 제품 성능도 높아진다. 48GB로 현존 HBM 중 가장 큰 용량인 이 제품은 12단 대비 학습 분야에서 18%, 추론 분야에서는 32% 성능이 높다. 데이터 처리량을 혁신적으로 끌어올려 최고 사양의 DC에 탑재돼 AI 서비스를 구현할 전망이다. HBM3E는 이 제품이 탑재되는 엔비디아 GB200 그레이스 블랙웰 슈퍼칩과 나란히 전시돼 방문객들의 눈길을 끌었다.

현장에서는 에너지 효율을 최적화할 수 있는 반도체 유리기판도 공개됐다. 반도체 패키징 분야의 '게임 체인저'로 불리는 유리기판은 표면이 매끄럽고 사각 패널을 대면적으로 만들 수 있어 대형화에 대응 가능하다. 기존 대비 두께가 4분의 1 수준으로 얇고 전력 효율은 30% 이상 향상된다. SK는 내년 대량 양산을 목표로 하고 있다. SK와 협력하는 리벨리온의 AI 반도체 '아톰'도 소개됐다. 전력소모를 줄이고 AI DC를 최적화해 효율을 3배 이상 높일 수 있는 제품이다.

일상과 밀접하게 연계된 '텔코 AI 엣지' 서비스도 전시됐다. 엣지 AI CCTV 산업안전 솔루션은 작업자들이 쓰러지거나 외부인이 침입하는지 여부를 확인해 알려주는 지능형 CCTV다. 침입이나 배회, 쓰러짐, 안전모 착용 등을 확인해 위험상황에 대비하도록 돕는다. 전시부스에서 만난 관계자는 "이 기술은 현재 보라매 사옥에 적용하고 있고 병원이나 DC 등에도 활용 가능하다"며 "향후 유선구간에는 양자암호 등을 적용해 보안성을 추가할 수 있다. 버스, 택시 등 공공안전 분야에도 확대 적용하도록 AI 모델을 추가 개발하고 있다"고 말했다.

SKT는 국내외 기업과 협력해 헬스케어, AI 로봇, AI CCTV 등 6개 영역의 '엣지 AI 특화' 서비스를 발굴하고 있다. 유영상 SKT 최고경영자(CEO)가 AI 핵심 수익원으로 꼽은 AI 검색과 B2B 엔터프라이즈 서비스도 전시됐다. 텔코 LLM을 활용한 'HR 어시스턴트'에 "결혼자금 용도로 퇴직연금 중도 인출이 가능한가요"라고 질문하니 "결혼자금은 중도 인출 가능 사유에 포함돼 있지 않습니다"라고 답했다. AI 어시스턴트가 HR제도, 사규 등을 참고해 답을 해준다.

SK바이오팜의 헬스케어 서비스 '프로젝트 제로'도 관람객들의 관심을 받았다. 프로젝트 제로는 뇌전증 관리 AI 플랫폼으로, 뇌파 분석 AI를 통해 뇌전증 발작을 미리 예측해 준다. 스마트폰과 시계, 안경 형태의 여러 단말을 활용해 앱을 설치하면, 실시간 모니터링, 보호자 알림 기능 등을 활용할 수 있다.

구글 클라우드, 아마존웹서비스(AWS), 마이크로소프트(MS) 등의 서비스도 전시됐다. 몰로코, 베스핀글로벌, 코난테크놀로지 등 SKT 'K-AI 얼라이언스' 멤버사들의 기술도 소개됐다.

글·사진=김나인기자 silkni@dt.co.kr