“배울 곳도, 참고할 책도 없어… 맨땅 헤딩하며 AI DC 개척”

[K직장인리포트] 문동혁·김병각 LG CNS 팀장

LG CNS 문동혁(왼쪽) 팀장과 김병각 팀장이 최근 서울 마포구 상암동 LG CNS 상암IT센터에서 AI 데이터센터 관련 설명을 하며 환하게 웃고 있는 모습. 두 사람은 AI 데이터센터의 전력·냉각 시스템 등 핵심 인프라를 구축하는 업무를 맡고 있다. 권현구 기자

약 15년 전 데이터센터 분야에 첫발을 내디딘 문동혁(42) LG CNS 데이터센터솔루션팀장에게 밤샘 근무는 일상이었다. 해외 고객사의 데이터센터 설비를 점검하는 날이면 밤 11시부터 이튿날 해가 뜰 때까지 작업하는 생활이 수개월간 반복됐다. 고된 업무만큼이나 힘들었던 건 낯선 기술을 익히는 일이었다. 당시 국내에는 관련 경험이나 지식을 가진 인력이 드물어 생소한 용어나 기술을 물어볼 곳조차 마땅치 않았다. 문 팀장은 서툰 영어로 해외 고객사 엔지니어들에게 일일이 물어가며 기술을 익혔고, 이를 토대로 국내 현장에 적용할 표준 문서를 써 내려갔다.

같은 회사 김병각(40) AI인프라기술팀장 역시 처음 대규모 인공지능(AI) 인프라 프로젝트를 맡았을 때 비슷한 난관에 부딪혔다. 참고할만한 구축 사례는 물론 관련 기술을 공부할 전문 서적이나 표준 가이드라인조차 없었다. 필요한 기능과 용어를 직접 정리하며 시스템을 설계해야 했다. 이처럼 맨땅에 헤딩하듯 낯선 기술과 씨름하던 두 사람은 이제 각자의 분야에서 첨단 AI 인프라 구축을 이끌고 있다. 최근 두 사람을 만나 빠르게 변화하는 AI 데이터센터 현장의 이야기를 들어봤다.

“물어볼 사람 없어 고객에게 배웠죠”

전기공학을 전공한 문 팀장은 정보기술(IT) 산업이 계속 성장할 것이라는 판단에 당시만 해도 생소했던 데이터센터 분야를 택했다. 실제 데이터센터 산업은 그의 예상을 뛰어넘는 속도로 빠르게 발전했다. 문 팀장은 “돌이켜보면 15년 전 이 분야에 뛰어들길 잘했다는 생각이 든다”고 말했다.

현장에서 본격적인 전환점을 맞이한 것은 약 10년 전 글로벌 클라우드서비스사업자(CSP)의 국내 데이터센터 커미셔닝 작업을 맡으면서다. 커미셔닝은 데이터센터의 각종 설비가 설계대로 성능을 내는지 종합적으로 검증하는 작업이다. 당시 국내에는 체계적인 커미셔닝 경험을 가진 사람이 드물었다. 문 팀장은 “국내에서 처음 체계화된 커미셔닝을 하다보니 물어볼 사람이 없었다”며 “모르는 게 생기면 고객사에 직접 물어보며 익혀야 했다”고 돌아봤다.

외국인 고객과의 소통도 쉽지 않았다. 그는 글로벌 고객사가 제공한 영어 표준 문서를 공부하며 실제 장비와 국내 현장에 맞는 테스트 절차와 결과를 정리했다. 이를 문서화하는 데만 몇 달이 걸렸다. 심야에 시작한 부하 테스트를 8시간 넘게 지켜보는 작업도 그 과정의 일부였다. 그는 “표준 문서를 계속 공부하고 고객에게 물어보면서 완벽히 이해하는 데까지 상당한 시간이 필요했다”고 설명했다.

이후 문 팀장은 국내외 각종 데이터센터 프로젝트를 거치며 경험을 쌓았다. 최근에는 LG CNS가 자체 기술력과 그룹 내 역량을 모아 구축하는 모듈형 AI 데이터센터 사업에 참여하고 있다. 그는 “10여년 전에는 외부 업체와 함께 진행했다면 이번에는 오롯이 LG의 기술과 내부 역량만 가지고 하는 것”이라며 “과거보다 더 뜻깊은 프로젝트라고 생각한다”고 말했다.

“필요한 용어부터 직접 만들었다”

김 팀장도 대규모 AI 인프라 프로젝트를 맡게 되면 생소한 기술을 바닥부터 익혀야 했다. 당시는 벤치마킹할 만한 구축 사례가 드문데다, 관련 내용을 다룬 책이나 표준도 마땅치 않던 시절이었다. 결국 그는 필요한 기능을 직접 설계하며 ‘에이전트 게이트웨이’, ‘에이전트 명세서’, ‘MCP 게이트웨이’ 등 개념과 명칭까지 들어 사용했다. 김 팀장은 “해외에서도 선례로 삼을 만한 자료를 찾을 수 없을 땐, 엔터프라이즈 AI 시스템 아키텍처에 필요한 기능을 일일이 구상해 만들어 갔다”고 말했다.

김 팀장은 어린 시절부터 IT 기술을 자연스럽게 접하며 자랐다고 한다. IT업계에서 일하던 아버지를 따라 회사에 갔다가 직원들에게 HTML 태그를 배워 직접 홈페이지를 만들기도 했다. 그는 “하이퍼링크도 달아보고 이미지를 넣어보는 게 재미있었다. IT에 호기심을 갖게 된 계기였다”고 회상했다.

그는 IT 인프라 엔지니어로 경력을 시작했다. 이후 시스템·애플리케이션 아키텍처를 거쳐 플랫폼·솔루션 아키텍처까지 경험했다. 약 8년 전부터는 빅데이터와 머신러닝을 공부하며 전문 영역을 넓혔다. 이후 AI 기술이 빠르게 확산하면서 다시 인프라 분야로 눈을 돌렸다. 김 팀장은 “AI 시대가 본격화되면서 AI 경쟁력의 핵심은 결국 인프라와 데이터센터에 있다고 판단했다”며 “이것이 다시 인프라 분야로 돌아온 이유”라고 말했다.

그는 현재 국산 AI 반도체의 성능평가 기준을 마련하는 작업에도 참여 중이다. 지난해 12월 출범한 ‘공동성능지표(K-Perf) 협의체’에서 민간 수요 대표를 맡아 국산 신경망처리장치(NPU) 성능평가 방안은 논의 중이다. 김 팀장은 “그래픽처리장치(GPU), NPU 등 AI 반도체를 얼마나 많이 보유했느냐보다는 주어진 비용과 전력 내에서 최적화를 통해 얼마나 많은 유효 AI 연산을 수행할 수 있느냐가 중요하다”고 말했다.

“호기심 가지고 답 찾는 게 엔지니어”

빠르게 변하는 AI 데이터센터 환경에 대응하기 위해 두 사람은 지금도 새로운 기술을 공부한다. 문 팀장은 GPU가 바뀔 때마다 전력 소비량과 발열이 달라지고, 이에 맞춰 데이터센터 설계도 바뀐다고 설명했다. 그는 “칩이 바뀌면 AI 데이터센터의 디자인도 달라진다”며 “계속 공부해 설계에 반영하고 또 개정하는 과정을 반복해야 한다”고 말했다.

김 팀장은 특정 기술에 정통하는 수준에 그치지 않고 전기와 열, 인프라와 데이터의 기본 원리와 상호 연관성을 이해해야 한다고 강조했다. 그는 “현장에 나가면 어쩔 수 없이 맞닥뜨리는 문제들이 생긴다”며 “측정하고 가설을 세운 뒤 검증하면서 문제를 해결하는 역량이 중요하다”고 말했다. 문 팀장은 “산업 분야를 떠나 엔지니어에겐 기본적인 호기심과 미래에 대한 고민이 필요하다”고 덧붙였다.
차민주 기자 lali@kmib.co.kr,lali@kmib.co.kr