채점 조교 비효율이 만든 AI…이제 스타트업 ‘운동장’ 넓힌다

김재원 엘리스그룹 대표, 코리아스타트업포럼 차기 의장 내정
AMD·엔비디아 거친 공학도…10년 만에 ‘AI 풀스택’ 기업 일궈

“2015년 KAIST 조교 시절, 학생 코딩 과제를 채점하느라 밤을 새우는 비효율을 해결하고 싶어 만든 프로그램이 엘리스 시작이었습니다. 문제를 기술로 해결하려던 그 공학도 초심으로, 이제는 대한민국 스타트업이 마음껏 뛸 수 있는 ‘공정한 운동장’을 만드는 데 일조하겠습니다.”

교육 실습 플랫폼 기업에서 ‘인공지능(AI) 인프라 홀딩스’로 체질 개선에 성공한 김재원 엘리스그룹 대표가 국내 최대 스타트업 단체인 코리아스타트업포럼(이하 코스포) 차기 의장으로 나선다. 김 대표는 최근 매일경제와 인터뷰에서 엘리스그룹 사업 확장 전략과 코스포 의장으로서 청사진을 밝혔다.

AMD·엔비디아 거친 ‘공학도 CEO’, 하드웨어 승부수 던지다

김재원 엘리스그룹 대표. (엘리스그룹 제공)

김 대표 이력은 일반 에듀테크 창업가와 결이 다르다. 캐나다 워털루대에서 산업공학을 전공한 그는 미국 반도체 기업 AMD와 엔비디아(NVIDIA)에서 인턴 과정을 거치며 하드웨어 감각을 익혔다. 이후 KAIST 전산학부 박사 과정을 밟던 중 수작업 채점 비효율을 개선하기 위해 AI 자동 채점 시스템을 개발했고, 이것이 2015년 창업으로 이어졌다.

이러한 ‘딥테크(Deep Tech·기반 기술)’ DNA는 최근 엘리스그룹이 소프트웨어(SaaS)를 넘어 하드웨어 인프라로 사업을 확장하는 데 결정적인 토대가 됐다.

지난해 엘리스그룹은 정부 AI 디지털교과서 정책 변경으로 사업 불확실성에 직면했다. 하지만 김 대표는 이를 고성능 ‘GPU 클라우드’ 사업으로 정면 돌파했다. GPU(Graphics Processing Unit)란 단순 그래픽 처리를 넘어 AI 연산 핵심 두뇌 역할을 하는 반도체다. 김 대표는 “대규모 AI 교육을 운영해보니 기존 외부 클라우드로는 비용과 성능을 감당하기 어려웠다”며 “시장 수요에 맞는 인프라가 없어 직접 개발에 나섰다”고 설명했다.

데이터센터를 ‘컨테이너’에 담다…PMDC로 세계 시장 공략

이 과정에서 엘리스는 100억원 이상을 투입해 ‘이동형 모듈러 데이터센터(PMDC)’를 선보이는 파격을 보였다. PMDC(Portable Modular Data Center)란 거대한 건물을 짓는 기존 데이터센터와 달리 컨테이너 형태 모듈에 서버와 냉각 장치를 탑재해 어디든 설치 가능한 차세대 데이터센터다.

소형 데이터센터로 차별화한 엘리스그룹. (엘리스그룹 제공)

김 대표는 “데이터 보안이 생명인 기업과 학교 현장에서는 외부 망을 쓰는 퍼블릭 클라우드 사용에 제약이 많다”며 “엘리스 PMDC는 물리적 격리가 가능하고 수랭식 냉각(Direct Liquid Cooling·공기 대신 액체로 열을 식히는 방식) 기술을 적용해 전력 효율을 극대화했다”고 강조했다.

현재 엘리스는 인프라부터 교육 솔루션까지 모두 제공하는 ‘AI 풀스택(Full-stack·모든 단계 기술을 갖춘)’ 기업으로 변모했다. 삼성전자·현대차 등 1만3000여개 기업, 기관이 고객사다. 최근에는 1900억토큰 규모 한국어 교육용 데이터셋을 허깅페이스(Hugging Face·전 세계 개발자가 AI 코드를 공유하는 오픈소스 플랫폼)에 공개하며 기술 생태계 기여에도 나섰다.

엘리스 AI PDMC. (엘리스그룹 제공)

코스포 신임 의장 김재원 “스타트업 위한 ‘기술 쿼터제’ 도입해야”

창업 10년 만에 회사를 비약적으로 성장시킨 김 대표는 이제 그 노하우를 스타트업 생태계 전반으로 확산시키겠다는 포부다. 그는 “기술 기반 스타트업이 정쟁과 낡은 규제로 ‘게임 룰’이 수시로 바뀌는 환경 탓에 사라지는 것을 막아야 한다”며 의장 출마 배경을 설명했다.

김 대표는 스타트업 생존을 위한 구체적인 해법으로 ‘스타트업 기술 쿼터제’를 제안했다. 정부나 공공기관이 AI 솔루션 등 신기술을 도입할 때 검증된 국내 스타트업 기술을 일정 비율 의무 구매하도록 제도화하자는 것이다.

그는 “거대 자본을 앞세운 빅테크나 대기업 중심 수직 계열화 구조에서는 혁신 스타트업이 설 자리가 좁다”며 “공공 구매가 마중물이 돼 초기 시장을 열어줘야 한다”고 강조했다. 아울러 AI 기업 최대 비용 부담인 GPU 인프라 비용을 낮추기 위해 정부 컴퓨팅 자원이나 민간 클라우드를 회원사에 할당하는 지원책도 정부에 건의할 계획이다.

규제 혁신 의지도 확고하다. 김 대표는 “로톡(법률), 닥터나우(의료) 등 전문 직역 단체와 갈등으로 혁신 서비스가 좌초되는 일이 반복돼선 안 된다”며 “신속 대응 체계를 구축해 낡은 규제를 고치고 회원사 목소리를 대변하겠다”고 말했다. 현재 대통령 직속 국가인공지능전략위원회 자문위원으로 활동 중인 그는 민관 네트워크를 적극 활용해 정책 실효성을 높이겠다는 복안이다.

글로벌 확장과 내부 결속도 주요 과제다. 김 대표는 코스포 대표 행사인 ‘컴업(COMEUP)’을 명실상부한 글로벌 축제로 키워 해외 유력 투자사(VC)와 국내 스타트업 간 접점을 늘릴 계획이다. 또한 초기 기업부터 유니콘(기업가치 1조원 이상 비상장사)까지 다양한 회원사 간 시너지를 위해 산업 경계를 허무는 ‘융합 피칭 데이’를 정례화하기로 했다.

김 대표는 “2026년 코스포 10주년을 맞아 지난 10년 치열한 도전기를 담은 ‘혁신 백서’를 발간할 것”이라며 “스타트업이 대한민국 경제 주역으로 인정받도록 사회 인식을 근본적으로 변화시키겠다”고 힘줘 말했다.