[팽동현의 AI인] "생성형AI 작업효율 10배 높일수 있죠"

전병곤 서울대 교수 겸 프렌들리AI 대표
'AI서빙엔진' 표방 솔루션 개발
운용비 대폭 절감할 기술 주목
"HW·SW·경량화 세 가지 중요
모델·인프라 등 다양성 갖춰야"

전병곤 서울대 컴퓨터공학부 교수 겸 프렌들리AI 대표

생성형AI(인공지능) 열풍이 세계를 뒤덮고 있지만 아직 이렇다 할 수익을 냈다는 AI서비스 기업은 찾아보기 어렵다. 엔비디아의 AI학습용 GPU(그래픽처리장치)를 구하려면 이제 1년이 넘게 걸리고 MS(마이크로소프트)의 3분기 클라우드 매출이 전년 동기보다 29% 증가하는 등 AI 인프라 분야에서 신나게 돈을 쓸어 담는 것과는 대조적이다.

이 문제에 대해선 초거대AI 등 AI모델을 개발하는 기업과 이를 기반으로 한 서비스를 제공하는 기업으로 구분해 생각해볼 수 있다. AI모델 기업의 경우 오픈AI가 챗GPT 서비스에 하루 70만달러(약 9억원)가 드는 것으로 추산되는 등 막대한 운용비용을 효율화하고 절감하는 게 당면과제다. AI서비스 기업은 AI산업 생태계를 기반으로 각 목적과 영역에 특화돼 고유의 가치를 제공할 수 있는 사업모델과 활용사례를 발굴하는 것이 필요하다.

서울대학교 컴퓨터공학부 교수이자 AI스타트업 프렌들리AI의 창업자인 전병곤 대표(51)는 지난 6월 샘 알트만 오픈AI CEO(최고경영자) 방한 행사에서 "당신들의 운용비용을 대폭 낮출 수 있는 기술이 있다"고 소개해 눈길을 끈 바 있다. 지난 9월 생성AI 스타트업협회(GAISA) 발족에도 중추적인 역할을 맡은 그는 "국내 AI생태계가 모델부터 인프라 및 서비스까지 다양성을 갖추고 고루 발전하는 게 바람직하다"고 밝혔다.

전 대표는 서울대 전자공학과에 90학번으로 입학한 것부터 2007년 미국 UC버클리에서 컴퓨터과학 박사 학위를 받기까지 18년에 달하는 시간을 대학에서 공부와 연구로 보냈다. 그가 SW(소프트웨어)와 AI(인공지능)에 대해 관심을 갖게 된 계기는 지금은 퇴임한 조유근 서울대 교수의 알고리즘 수업이다. 이후 1996년 모교에서 전자공학 석사를 받은 후 미국행을 결정, 스탠포드대에서 컴퓨터과학을 택해 석사과정을 밟으며 기초부터 다시 쌓아갔다.

전 대표는 UC버클리에서 박사학위를 받은 뒤 2008년부터 2013년까지 인텔, 야후, MS(마이크로소프트)에서 연구원으로 재직하면서 머신러닝과 IT인프라의 결합 및 SW기술을 통한 최적화 연구에 집중했다. 이 가운데 인텔에서 냈던 개인정보 흐름 추적 및 보호 관련 논문으로 이후 ACM(미국컴퓨터학회) 'SIGOPS 명예의 전당'에 한국 최초로 올랐고, 스마트폰 앱을 빠르게 하는 클론클라우드 연구로 유럽시스템협회로부터 과거 10년간 가장 영향력 있는 논문상을 받기도 했다.

그는 "귀국을 결정할 때도 한국 산업 발전에 공헌하고자 하는 마음이 컸다"며 "논문을 써서 기여하는 것도 방법이지만, GPT-3를 접하면서 우리가 가진 기술을 프로덕트로 만들어 다른 기업들이 쓸 수 있게 하면 더 큰 영향을 줄 수 있겠다는 생각에 창업을 결정했다"고 말했다.

전 대표가 2021년 초 프렌들리AI를 창업한 것은 2013년 귀국해 서울대에서 교편을 잡으며 만든 연구실인 '소프트웨어플랫폼랩'의 연장선상이기도 하다. 2016년 메타(옛 페이스북)에 방문연구원으로 다녀온 것도 계기가 됐다. HW(하드웨어)가 데이터를 더 잘 처리하면서도 자원을 더 적게 쓰도록 지원하는 SW기술을 연구해온 그가 2020년 등장한 GPT-3를 보고 새로운 가능성을 내다본 것이다.

초거대AI가 겪는 운용비 문제에 대해 그는 "금방 해결될 거라 보이진 않는다"며 "이를 해결하려면 AI반도체 등 HW와 경량화 등 모델뿐 아니라 SW기술까지 세 가지 측면에서 함께 접근할 필요가 있다. 한정된 자원을 효과적으로 활용해 비용을 낮추면서도 성능을 끌어올릴 수 있어야 수익성 개선이 이뤄질 것"이라고 내다봤다.

프렌들리AI의 솔루션은 '생성AI 서빙엔진'을 표방한다. 클라우드를 비롯한 시스템 인프라가 더욱 효율적으로 AI작업을 수행할 수 있도록 SW기술로 최적화하며, 다수의 이용자가 AI모델에 요청을 보냈을 때 이를 효율적으로 묶어 처리하는 연속배칭(Iteration Batching) 기술에 대한 특허도 갖췄다. "효율을 최대 10배가량 좋아지게 할 수 있다"는 게 전 대표의 설명이다. 매니지드 서비스와 함께 최근에는 양자화 기법 등을 통해 보다 효과적으로 경량화한 오픈LLM을 API(응용프로그램인터페이스)를 통해 제공하는 비즈니스도 준비하고 있다.

프렌들리AI는 최근 생성AI스타트업협회 출범을 주도한 기업 중 한 곳이다. 전 대표는 "세계적으로 봐도 모델 프로바이더는 매우 중요하지만 생태계에선 일부를 차지한다"며 "이런 상용 모델이나 오픈소스 모델을 써서 특화된 서비스를 만들어내 사람들에게 생성형AI의 유용함을 느끼게 할 수 있는 기업들이 다양하고 풍부하게 자리잡아야 건강한 생태계 조성과 산업 발전을 이룰 수 있다. 정책적 지원에도 이를 고려할 필요가 있다"고 강조했다.

전 대표는 "정부에서 한국어 FM(기반모델)을 만들어 공개한다면 연구자들과 스타트업 등에 도움이 될 것"이라며 앞으로도 연구자로서는 임팩트 있는 연구를, 교육자로서는 학생들의 통합적인 접근을 돕겠다고 밝혔다.

그는 "국내에는 여전히 AI 운영 관련해서도 반도체 등 HW가 강조되는 경향이 있는데 이를 구동하고 효율화하는 SW기술 또한 함께 가져가야 하는 핵심기술이다. 앞으로도 이런 기술을 지속적으로 개발해 제공할 계획"이라며 "국내 생성형AI 생태계가 잘 조성돼 기업들이 성장하는 선순환 구조가 이뤄지기를 바란다"고 덧붙였다.

글·사진=팽동현기자 dhp@dt.co.kr