"생성AI, 발전 무궁무진···통합 플랫폼 갖춰 추진해야"

투이컨설팅·트러스트커넥터 공동 주최 '우리 조직에 맞는 엔터프라이즈 LLM 세미나' 성료...전문가 12명 연사로 나와 현황과 미래 조망

(지디넷코리아=방은주 기자)투이컨설팅(대표 김인현)과 트러스트커텍터(대표 윤석빈)가 공동 주관하고 지디넷코리아가 후원한 '우리 조직에 맞는 엔터프라이즈 LLM 세미나'가 22일 서울 강남 뱅뱅사거리 인근 드림플러스에서 열려 성황리에 막을 내렸다. 생성AI 전문가 12명이 연사와 패널로 나와 엔터프라이즈 현장의 생성AI 도입 현황과 나아갈 방향, 법제도 문제를 진단했다. 유료 세미나임에도 좌석 120곳이 만석으로 치뤄질만큼 높은 호응을 받았다.

축사를 한 투이컨설팅 임동진 전무는 "LLM은 모든 산업의 관심사로 떠올랐다"면서 투이컨설팅이 조사한 기업의 LLM 도입 현황을 발표, 시선을 모았다. 이어 행사 공동 주관사인 트러스트커넥터의 윤석빈 대표(서강대 겸임교수)는 "날로 쏟아지는 AI신기술에 우려도 있지만 인류를 새롭고 좋은 곳으로 이끌 것이라는 믿음과 함께 큰 기대를 갖고 있다"면서 "엔터프라이즈 영역의 AI 도입은 기업은 물론 국가경쟁력과도 연결되는 중요한 사안"이라고 밝혔다. 윤 교수는 600명 가까운 산학연관 AI전문가들이 참여한 커뮤니티도 운영하고 있는데 "모두 힘을 합쳐 상생하는 마음으로 커뮤니티를 발전시키고 AI산업 발전에도 기여했으면 한다"고 덧붙였다.

해외 영상 축사도 소개됐다. 엔비디아 본사에서 H100 GPU 개발에 참여한 한국 개발자로 실리콘밸리에서 활동하고 있는 스테펀 조(Stephen Cho)는 영상으로 "인터넷과 모바일 이상의 큰 변화를 생성AI가 초래하고 있다. 하드웨어와 소프트웨어간 경계가 허물어 지고 있다"면서 "생성AI와 인공지능을 도입하기 위해선 굉장히 많은 하드웨어 자원이 필요하다. 비용도 굉장히 많이 들어간다. 이에, 소프트웨어개발 회사들이 하드웨어 도메인 안으로 들어오고 있다. 구글과 메타, 마이크로소프트가 그렇다"고 짚었다. 이어 그는 "하드웨어 회사들도 본인이 갖고 있는 하드웨어 기술 자원을 연동해 소프트웨어 영역안으로 뛰어들고 있다. 결국 두 영역에서 부딪힐수 밖에 없는 상황이다. 와중에 많은 비즈니스 기회가 생길 것"이라면서 "민첩하고 창의적인 마인드로 무장하면 기업도 국가도 더 많은 기회를 얻을 것이다. 기술 뿐 아니라 비즈니스 모델이 중요하며 AI 윤리 등에도 관심을 가져달라"고 말했다.

투이컨설팅과 트러스트커텍터가 공동 주관하고 지디넷코리아가 후원한 '우리 조직에 맞는 엔터프라이즈 LLM 세미나'가 22일 서울 강남 뱅뱅사거리 인근 드림플러스에서 열렸다.

■이건복 한국MS 리드(상무) "조직이 AI투자로 수익 얻는 기간 평균 14개월"

첫번째 발표자로 나선 이건복 마이크로소프트 아시아 IoT팀 리드이자 한국마이크로소프트 NTO(National Technology Officer)는 "AI가 모든 산업을 변화시키고 있다"고 운을 떼며 데이터를 강조했다. 레시피도 중요하지만 음식의 맛은 재료라는 것이다.

특히 그는 과거 벽돌폰과 스마트폰을 비교하며 "지금은 생성AI의 아주 초기단계다. 우리가 지금까지 본 AI기술은 시작에 불과하다"면서 "LLM(Large Language Model, 거대언어AI)은 발전 가능성이 무궁무진한 기술"이라고 진단했다.

통계데이터 조사로 유명한 일렉트로닉스허브(Electronics Hub)의 최근 조사 결과도 인용했다. 이에 따르면, 세계에서 생성AI를 가장 활발히 사용하는 국가는 필리핀이다. 인구 10만명당 5288 건에 달했다. 싱가포르와 캐나다가 2위, 3위였다. 한국은 15위권에도 못 들었다. 이 NTO는 "LLM 등 생성AI를 보안을 이유로 사용을 차단하고 있기때문"이라고 해석했다.

생성AI는 국내외적으로 여러 종류가 있다. 미국 오픈AI가 내놓은 챗GPT가 대표적이다. 이 NTO가 속한 미국 마이크로소프트는 오픈AI에 막대한 자금을 지원, 챗GPT에 기반한 업무생상성 소프트웨어 '코파일럿'을 내놓고 세계적으로 시장을 확대하고 있다. 특히 MS는 미국시각 21일 본사인 레드몬드에서 열린 개발자 회의 '빌드(Build)'에서 AI를 활용한 50여종의 새로운 서비스와 제품을 공개하며 AI시장 선점에 드라이브를 걸었다. 이날 사티아 나델라 MS 최고경영자(CEO)는 "우리의 서비스들이 여러분 모두에게 새로운 기회를 제공할 것"이라고 강조했다. 1980년대 등장한 워드, 엑셀, 파워포인트처럼 AI가 개인과 직장인 업무에 새로운 편리함을 제공할 것이라는 것이다. MS의 '빌드' 행사에 앞서 구글과 오픈AI도 새로운 AI서비스를 선보인 바 있다.

이 NTO는 생성AI를 가장 많이 사용하는 두 곳으로 콜센터의 고객대응 보조와 정보 검색을 들었다. 또 본인이 직접 중견 보일러 회사에 강연차 간 경험을 들려주며 AI의 업무 생산성 확대 효과를 강조했다. 이 NTO는 보일러에 문외한이지만 강연 현장에서 텍스트를 넣어 보일러에 관한 파워포인트 12장을 1분여만에 제작, 생성AI의 유효성을 보여줬다.

그는 오픈AI가 최근 내놓은 새로운 생성AI인 'GPT4o(o는 omni로 어디서나 있다는 뜻)'를 써보니 "너무 빨랐다"면서 미국 MS가 '빌드'에서 보여준 영상으로 소비자가 생성AI를 활용해 적합한 등산화를 찾는 장면도 보여줬다.

특히 그는 데이터를 강조했다. 기업 입장에서는 데이터가 경쟁력이라면서 "LLM은 단순히도구에 불과하다. 지향점이 아니다"고 짚었다. 생성AI가 산업전반에서 성과를 창출하고 있는 사례도 소개했다. KPMG의 경우 생성AI로 직원 경험 강화 효과 41%를, 또 NHS는 24시간 고객 참여 재창조를, 심포니AI는 비즈니스 프로세스 재구성 70% 효과를 봤다는 것이다. 특히 IDC 2023년 11월 보고서를 인용해 "기업이 AI에 투자하는 달러당 평균 수익률은 3달러50센트, 조직이 AI투자로 수익을 실현하는데 걸리는 평균 시간은 14개월"이라고 소개했다.

생성AI에 대한 기업 지출도 늘고있다. 인프라보다 서비스와 플랫폼&앱 소프트웨어 부문이 그렇다. 그에 따르면, 오는 2027년 기준 생성AI 인프라는 85억 달러를 지출하는데 반해 생성AI 서비스는 131억달러, 생성AI플랫폼&앱 소프트웨어는 152억 달러에 달했다.

작년에 나온 '워크 트렌드 인덱스 스페설 리포트'도 인용했다. 얼리어답터 297명을 조사한 결과다. 이에 따르면 AI사용 만족도가 77%였다. 또 매주 1회 무료 점심 제공보다 코파일럿 사용을 선택하겠다고 답했다. 이 상무는 "(코파일럿이) 새로운 직원 복지"라면서 "실제 30%는 직장 선택시 코파일럿 사용 가능 여부가 중요하다"고 해석했다.

생성AI가 단순히 채팅을 넘어 다양한 비즈니스 영향력을 행사하고 있다고 재차 강조한 그는 "기업용 커뮤니케이션, 협업과 지식 공유, 문서관리, 디자인과 연구개발, SW개발과 배포 등의 비즈니스에 적용에 되고 있다"고 말했다. 생성AI 활용시 고려해야 할 사항으로는 ▲보안 ▲저작권 ▲안정성과 윤리 ▲성능 ▲답변 완성도 ▲기업 내부 데이터 사용 등을 제시했다. 또 안전한 AI가 보장되지 않으면 확대와 적용이 어렵다면서 '신뢰 AI'에 필요한 6대 원칙으로 ▲신뢰성과 안전 ▲프라이버시와 보안 ▲포괄성 ▲책임과 의무 ▲투명성 ▲공정성을 제시했다.

특히 그는 "생성AI는 앱(서비스)을 더욱 인텔리전트하게 업그레이드해준다. 이런 기회가 많을 것"이라며 기존 앱이 인텔리전트앱으로 고도화하는 패러다임 변화가 일어나고 있다면서 통합AI 플랫폼 필요성을 강조했다. 생성AI 도입시 부분만 보지 말고 처음부터 끝까지(검색-비교-평가-개선-통합-테스트-검토-배포 모니터링) 통합 관점에서 보는 플랫폼이 필요하다는 것이다.

"기존 시스템은 파편화가 문제다. 지난 30년간 IT환경 구축의 문제점"이라면서 "수많은 앱을 바꾸려면 전사와 통합 관점이 아니면 안된다. 스팟(spot, 일시) 기술로 접근하면 업그레이드와 유지 등에 문제가 된다. (AI는) 빨리 변하고 영향력이 매우 크기 때문에 생태계 전체의 통합 플랫폼 관점에서 다뤄야 한다"고 강조했다.

■ 안무정 LG CNS "생성AI는 초코렛 박스...누구나 하나씩 가져야"

LG CNS에서 신사업과 생성AI사업 개발을 맡고 있는 안무정 책임은 "나는 엔지니어지만 작가이기도 하다"며 본인을 소개하며 "생성AI는 개인이 친구처럼 지내야 할 대상이다"고 말했다. 안 책임은 '생성형 AI시대에 생존하라' 등 AI관련 책 4권을 저술한 바 있다.

텍스트만 넣으면 그림을 그려주는 AI를 소개하며 " 그림을 잘 못그리는데 행복한 세상"이라면서 "코딩 하면서 느낀건데, 언제든 질문하면 대답해주는 것, 이것만 해도 엄청난 베니핏(이익)"이라고 말했다.

작년 7월 LG AI연구원은 LG의 LLM인 '엑사원 2.0' 모델을 기반으로 ▲엑사원 유니버스(EXAONE Universe) ▲엑사원 디스커버리(EXAONE Discovery) ▲엑사원 아틀리에(EXAONE Atelier)를 발표한 바 있다. ‘엑사원 유니버스’(EXAONE Universe)는 도메인별 전문 문헌과 최신 데이터까지 학습한 플랫폼으로 각 분야 전문가들이 정보를 탐색하고 조합할 수 있게 해준다. 또 ‘엑사원 디스커버리’(EXAONE Discovery)는 다양한 실험 과정을 예측해 최적의 방법을 제안하는 생성형 AI다. ‘엑사원 아틀리에’(EXAONE Atelier)는 이미지 등을 생성해주는 AI다. 당시 LG AI연구원은 '아뜰리에'가 저작권을 확보한 이미지-텍스트 페어 데이터 3.5억장을 학습했다고 밝혔다. '아뜨리에'에 대해 그는 "누구나 디자이너가 될 수 있다"면서 "미드저니보다 질이 뒤질지 모르지만 데이터 저작권은 우리가 강점이 있다. 지금은 안하지만 종국에는 저작권을 이야기 할 것"이라고 짚었다.

이지스 군함을 소개하며 현업과의 소통 중요성도 강조했다. 이지스 군함을 운영하는 병력이 줄어 이를 기술로 보완, AI를 활용해 엔진 소리를 듣고 고장 유무를 판별하려 하는데 현업과의 소통이 잘 안돼 실행이 안된다는 것이다.

이어 그는 "LLM 구축의 첫번째는 우리 기업에 어떤 종류의 데이터가 있는지 파악하는 것"이라며 역시 데이터 중요성을 강조하며 "LLM 시작의 가장 어려운 부분은 전처리"라고 설명했다. 전처리가 쉽지않고 완전 노가다성 일이라는 것이다

ANN, CNN, RNN 같은 AI기술을 "아름다운 AI"라고 칭하며 "하지만 LLM을 하려면 고통이 따른다"고 덧붙였다. LLM 개발에 많은 돈이 들어간다면서 "도메인 특화 LLM을 만들어야 하는데 돈이 100억 이상은 들어간다"고 예상했다. 또 LG의 LLM '엑사원' 장점은 한글을 잘하는 것이라며 "한글을 잘하는 LLM을 찾아야 하고 로드맵이 있어야 한다 엑사원은 조만간 다음 버전인 '2.5'가 나온다. 엑사원은 파라미터가 3000억개 이지만 특정 영역을 커버하는게 장점"이라고 설명했다. 이어 그는 "생성AI는 쵸코렛 박스다. 하나씩 갖고 있으면 손해 보지 않는다"면서 "경험을 빨리 축적할 수 있는 알고리즘은 없다"며 경험을 강조했다.

■ 김세엽 셀렉트스타 대표 "국내 첫 LLM 평가기법 개발...여러 평가방법 함께 사용해야"

LLM이 국내외적으로 쏟아져 나오면서 이를 평가하는 곳도 늘고 있다. 국내는 셀렉트스타가 대표적이다. 셀렉트스타를 창업한 김세엽 대표는 2021년 포브스가 선정한 '아시아 30대 미만 리더 30인'에 뽑히기도 했다. 현재 과기정통부가 주관하고 있는 AI윤리정책포럼위원으로 활동하고 있다. 국내 처음으로 LLM 평가 시스템을 개발했다.

김 대표는 셀렉트스타에 대해 "자체기술을 기반으로 AI 데이터 밸류 체인(AI Data Value-chain) 전체에걸쳐 비즈니스를 보유한 '데이터 센트릭(Data-centric) AI 전문기업"이라고 소개했다. 그가 언급한 '데이터 센트릭'은 AI석학으로 지금은 투자에 더 열중하고 있는 앤드류 응이 강조하는 개념이다. AI에서 데이터가 중요하다는 걸 상징한다.

이 회사의 비즈니스 모델은 크게 두 가지다. 하나는 '올 인 원 데이터 서비스'고 다른 하나는 'AI제품 비즈니스'다. 김 대표는 셀렉트스타가 삼성, SKT, 네이버, KT, 현대, 삼성생명 등과 함께 일하고 있다면서 "우리는 LLM 데이터 1위 기업이자 금융(파이낸스) 데이터 전문 기업"이라면서 "신뢰할 수 있는 LLM을 도입하기 위해선 서비스 맞춤평가가 필요하며 핵심"이라고 강조했다.

현재 셀렉트스타는 'AI 안전(AI Safety)' 분야에 힘을 기울이고 있다. 이를 위해 ▲라이선스를 확보한 데이터 판매 서비스 ▲환각(할루시네이션) 방지를 위한 데이터 구조화 서비스 ▲리스크를 찾는 레드티밍(Red Teaming) 서비스 등에 주력하고 있다.

셀렉트스타가 판매하는 데이터는 다양하다. 'Q-A 데이터셋'의 경우 230만 건 이상 질문과 전문가 답변을 담았다. '뉴스 데이터셋'과 '도서 데이터셋' '대화 데이터셋' '다국어 번역 데이터셋' '이미지 데이터셋' '3D 시뮬레이션 및 합성 데이터셋' 등도 공급한다.

데이터구조화서비스에 대해 김 대표는 "RAG 기반 LLM 도입을위한 최적 형태로 문서데이터의구조화 설계 및 수행을 한다"고 설명했다. '레드 티밍(Red Teaming)' 서비스는 의도적으로 AI의 잘못한 답변을 유도해 서비스 리스크를 찾는 것으로 '레드티밍' 설계 및 수행을 해주고 있다. 이외에 셀렉트스타는 AI 성능과신뢰성을 서비스목적에 맞게 평가하기 위한 데이터 설계 및 구축도 해주고 있다.

LLM 평가동향에 대해 김 대표는 "최근 가장 많이 받는 질문이 LLM 서비스를 도입하거나 개발중인데 AI가 잘되는지, 혹은 문제가 없을지 어떻게 평가해야하나요?라는 것"이라면서 "LLM은 기술 특성상 의도하지 답변에 따른 리스크 및 신뢰성 담보 어려움이 발생한다"고 들려줬다.

LLM 평가는 크게 ▲사람 개입 없이 하는 자동평가(Automatic evaluation)와 ▲생성결과를 사람이 직접 평가(Human evaluation. 예 Chatbot Arena)하는 것 두 가지가 있다.

이중 자동 평가는 ▲Multiple-choice evaluation(객관식 질의를 통해 자동정량 평가. 예가 MMLU, Open LLM Leaderboard) ▲LLM based evaluation(LLM을 통해 Human evaluation을 자동화. 예가 G-eval, MT-Bench)으로 또 나눠진다.

각 평가 방법마다 장단점이 있다. 예컨대 평가 일관성 유지, 소요 리소스, 실사용자와의 간극이라는 지표를 놓고 봤을때, 방법마다 장단점이 있다는 것이다. 김 대표는 "결국 트레이드 오프를 고려해 평가방법을 적절히 조합해 사용해야 한다"고 제안했다. 리스크가 큰 영역은 휴먼 평가를 해야 한다는 것이다.

이어 그는 "현장을 뛰면서 느낀 점은 첫째, 서비스 맞춤 평가가 필요하다는 점과 둘째, 서비스 맞춤 평가는 어렵고 많은 리소스가 필요하다는 점"이라면서 "산업 전반에 걸쳐 서비스 평가 체계를 갖추기 위해서는 영역별 공통 평가 기반을 갖추는 것이 중요하다"고 제안했다.

셀렉트스타는 한국지능정보사회진흥원(NIA)이 주관한 인공지능학습용 데이터 구축 사업에 주관 기업으로 참여해 KAIST, 네이버, LG AI연구원, SK텔레콤, LT 등과 협력해 글로벌 공통 평가를 참고해 국내 최초로 LLM 신뢰성 평가 데이터를 설계, 구축하기도 했다. 엔스로픽의 3H(Harmness Honesty Helpfulness) 프레임워크를 활용했다.

셀렉트스타의 유해성 테스트(Harmlessness Test)는 사회적으로 유해할 수있는 영역에 대해 LLM이 얼마나 무해할 지 평가하는 것으로 2만건의 데이터를 확보했다. 편견(Bias), 증오(Hate), 불법(Illegal) 영역의 질의에 대해 적절한 답변을 선택하는 멀티플 초이스(Multiple Choice) 형태로 평가를 수행한다.

Helpfulness Test는 사용자 의도에 맞게 도움을 줄 수 있는 질의인 지에 대해 LLM이 얼마나 잘 판단하는지를 평가하는 것으로 3천건의 데이터를 확보했다. 질문의 구체정보를 되물어야하는 클래리피케이션(Clarification)과 불가능한 것을 묻는 난센스(Nonsense)로 카테고리를 구성했다.

또 Social Value Alignment Test도 있는데 이는 국가 구성원들의 사회적 가치관에 대해 LLM이 얼마나 일치하는지 평가하는 것이다. 이외에 Common Knowledge Alignment Test(Honesty Test)도 있다. 국가 구성원들의 공통 지식에 대해 LLM이 얼마나 잘 하는 지 평가하는 것이다.

김 대표는 소셜 밸류 얼라인먼트 테스트를 언급하며 "기존 벤치마크는 LLM이 얼마나 문제를 잘 푸는지, 혐오 및 편향에 잘 대처하는 지 등 전통적인 영역만을 다뤘다. 특정국가에 LLM을 서비스하기 위해서는 해당 국가 구성원들의 의견을 잘 반영하는 것이 필요하다"고 설명했다. 셀렉트스타는 올 하반기에 리더보드 챌린지를 시행, 연말에 AI허브에 공개할 예정이다.

■용혜림 10X AI클럽 대표 "GPT 래퍼 될 지 AI 네이티 프로덕트 될 지 고민을"

오후 세션의 첫 발표는 용혜림 10X AI클럽 설립자 겸 대표가 했다. 유명 유튜버인 그는 10X AI크럽 설립전 숏폼컨텐츠 자동편집 및 제작사를 공동 창업하고 인공지능 커뮤니케이션 챗봇 회사 CEO를 지낸 경험이 있다.

2017년 등장한 AI 트랜스포머(Transformer) 등 AI 역사와 하이테크 기술사를 소개한 그는 'GPT 래퍼(Wrapper) vs AI Native Product'를 언급하며 "GPT와 같은 오픈소스 LLM 모델을 사용한, 누구나 만들수 있는 래퍼(wrapper) 스타트업이 될것인 지, 아니면 에어앤비(Airbnb), 쿠팡과 같이 새로운 기술을 도입해 이전에 보지 못한 새로운 비즈니스 모델의 제품을 만들 것인가?" 물으며 "기존에 보지 못한 새로운 비즈니스모델을 세워야 한다"고 말했다.

LLM 도입 장단점은 설명했다. 그가 장점으로 꼽은 건 ▲빠르고 퀄리티 높은 자연어처리 기술을 내 제품에탑재 시킬수 있음 ▲데이터 처리능력 및 학습능력이 뛰어남(시간소모, 개발인력단축) ▲실행력으로 빠른 시장점유율 높이기 등이다. 반면 그는 단점으로 ▲오픈AI 등 무한경쟁 ▲낮은 기술 장벽으로 차별점 얻기 어려움 등을 꼽았다.

■이학준 마드라스체크 대표 "직원 100명이 200명이 되는 마법...1인 1업무 비서 열어"

웹케시 계열사인 마드라스체크의 이학준 대표는 국내 리딩 협업툴 솔루션 '플로우'에 인공지능(AI)을 적용한 경험을 이야기했다. 앞서 이 회사는 지난 3월 '플로우 3.0'을 공개했다. 이 제품은 AI를 적용한 것이 특징으로 '똑똑한 AI 업무비서'를 지향한다. 주요 기능은 크게 △AI 프로젝트 템플릿 △AI 하위 업무 △AI 업무 일지 △AI 업무 필터 △AI 에디터 템플릿 △AI 담당자 추천 등 6가지다.

이학준 대표는 '플로우'가 "금융, 제조, 공공에서 선택한 넘버1 협업툴"이라면서 "국내 최초로 SaaS와 온프레미스 두 방식으로 공급하고 있다"고 밝혔다. 이 대표에 따르면 '플로우'를 온프레미스로 도입한 곳은 미래엣셋을 비롯해 DGB 대구은행 등 다양하다. 망 분리 환경에서 금감원 보안 지침을 따른 제품이다.

'플로우'는 업무 추천도 해주는데 사용자가 특정 업무 내용을 입력하기만 하면 된다. 또 사용자는 업무 내역이나 진행상황을 검색할 수도 있다. 예를 들어 이용자가 '이번 주 우리 팀이 처리한 업무 알려줘'라고 입력하면, 관련 내용을 리스트 형식으로 받을 수 있다. 검색할 수 있는 업무도 다양하다. 처리 중이거나 보류된 업무, 다른 팀에 넘어간 업무 등을 확인할 수 있다.

이 대표는 "데이터 활용 혁신, 모두를 위한 인사이트가 AI다. 단순 수작업을 줄이고 더 의미있는 일에 몰입하게 해주며, 더 짧은 시간에 더 많은 일을 하게 해준다"면서 "직원 100명이 200명이 되는 마법을 만들어주는 1인 1업무 비서가 플로우"라고 강조했다. 이어 플로우가 꼭 필요하냐던 고객사가 몇년후면 꼭 필요한 제품이라고 할 것이라면서 "누구나 쉽게, 또 쓸수록 가치있는 제품이 되도록 플로우 3.0에 AI를 적용했다"고 밝혔다.

■ 배영근 바아이매트릭스 대표 "이제 분석은 AI비서에...G매트릭스 만나는 순간 혁신 일어나"

포스데이타 출신으로 2004년 비아이매트릭스를 설립한 배영근 대표는 AI가 전문직으로 진화중이라면서 "분석은 AI비서에게 시키고 의사결정 중심으로 업무로 전환해야 할 때"라고 강조했다. 현재 그는 노∙로우코드협의회회장과 한국SW산업협회빅데이터기업협의회(KBEC) 부회장도 맡고 있다. 비아이매트릭스는 데이터 분석, 시각화 등 비즈니스인텔리전스(BI) 업무에 특화한 로우코드 개발 플랫폼 기업이다. 로우코드 플랫폼 '아우디(AUD) 솔루션'과 서비스를 제조, 유통, 건설, 서비스, 금융 등 다양한 분야의 1천여 개 주요 대기업과 공공분야에 제공하고 있다. 작년 9월 출시한 'G-매트릭스'는 '아이-메타(i-META)' 모듈을 바탕으로 최소한의 정보만 학습해 AI 정확도를 극대화한 것이 특징이다. 우수한 성능뿐 아니라 보안성도 우수하다.

지난 20년간 BI 연구를 해왔는데 데이터가 연료인 AI 시대를 맞아 주목받고 있다. 배 대표는 "수천개의 데이터베이스에서 의미있는 정보를 찾아 분석하는 시대가 어느 정도 끝나간다"면서 AI에 의한 데이터 분석과 의사결정을 강조했다. 이어 "G매트릭스를 만나는 순간 혁신적으로 변한다. 의사 소통의 방향이 바뀐다"면서 "AI 업무비서가 질문 의도도 파악해 데이터 찾고 알려준다. 질문만 잘하면 10초 안에 결과물이 나온다. 기존엔 수시간 걸리던 일"이라고 들려줬다.

이 회사는 AUD(Automated UI Development, 아우디) 플랫폼도 갖고 있는데 "개발에서 가장 어려운 일이 현업과 커뮤니케이션이다. 요구 사항을 개발자에게 전달하는 일이 어렵다. 요구명세서, 기본설계서, 화면 정의서, 화면 사양서, 단위테스트 등을 해야 하는데 개발자와 현업간 커뮤니케이션이 힘들어 진행이 잘 안된다. 그래서 뭐든 집어 넣으면 나오는 게 만든게 아우디 플랫폼"이라면서 "AUD 플랫폼은 엑셀 요구 사항에 집어넣으면 자바로 분석해 표현해준다"고 설명했다.

AI를 앞세운 혁신에 성공한 비아이매트릭스는 작년에 공공에서만 10개 넘는 시험테스트(PoC)를 했다. 올해는 카데고리별 매출 실적 달성률을 알려주는 기능도 구현, 제공한다. 이를 위해 올 3월 예측알고리즘을 적용해 추정 및 예측 분석이 가능하게 했고 시각화 플랫폼도 선보인다.

■ 장진영 유엔진솔루션즈 대표 "AI를 마법처럼 쓰려면 SW공학에 먼저 힘을 기울여야"

장진영 유엔진솔루션즈 대표는 'AI를 통한 민원시스템 구현'을 보여주며 "시스템에 들어가는 요구사항을 얼마나 잘 넣는냐가 중요하다. 그런데 자연어로 요구사항을 주는게 더 어렵다"면서 "그래서 SW공학이 있는 거다. AI를 마법처럼 쓰는 것 보다, 기존에 인류가 한 기법인 SW공학에 힘을 기울여야 한다. SW공학에는 현업과 개발자간 갭을 줄이는 수만가지가 있다"며 AI시대에도 SW공학이 중요함을 역설했다.

유 대표가 2007년 설립한 유엔진솔루션즈는 자체 오픈소스 BPM(Business Process Management) 제품인 '유엔진(uEngine)'을 주력으로 하고 있다. 금융, 공공, 제조, 통신 등 국내외에 100여개의 적용 레퍼런스를 보유했다. 마이크로서비스아키텍처(MSA) 설계 컨설팅과 교육으로 8000명 이상 교육생을 배출하기도 했다. 지난 3월에는 5년간 개발한 'MSA Easy'를 오픈소스로 공개했다. 'MSA Easy'는 사용자만의 프로그램을 만들거나 기존 프로그램을 개선하는 걸 돕는다. 자체 제품화나 사내 시스템 구축에 도움이 된다. 특히 클라우드 기반 애플리케이션 개발을 간소화해준다.

20년간 개발을 해오고 있다는 유 대표는 이날 LLM 기반 정보시스템 분석과 설계에 대해 발표했다. 그는 전통적인, 사람에 의한 정보시스템 구축과 관리는 비용이 높다면서 정보시스템 구축의 새로운방법으로 자연어를 기반한 업무프로세스 실행방법이 있다고 말했다. 이어 BPMN과 같은 쉬운 비즈니 스프로세스 기술언어를 소개하며 "LLM을 통해 프로세스 정의 생산성과 실행 유연성을 높일 수 있다"고 주장했다. 또 최근 나온 GPT4o와 같은 생성형AI 기술은 사용자인터페이스를 어느 때보다 쉽게 만들어준다면서 "Process GPT는 이러한 도전이고 오픈소스"라고 밝혔다.

■권혁성 포티투마루 AI사업 총괄 "목적에 맞는 학습데이터 모으는게 중요"

포티투마루에서 AI사업을 총괄하고 있는 권혁성 이사(BPO)는 RAG 필요성 등을 설명하며 회사의 사업 현황과 비전을 들려줬다. AI의 환각(그럴듯한 거짓말)을 막아주는 기술 중 하나인 RAG(Retrieval-Augmented Generation)는 대규모 언어 모델의 출력을 최적화, 응답을 생성하기 전 학습 데이터 소스 외부의 신뢰할 수 있는 지식 베이스를 참조하도록 한 프로세스다.

국내 중소AI기업중 선발적으로 RAG를 선보인 포티투마루는 특히 '앤서링 AI(Answering AI)' 기술력과 딥러닝 기술에 기반을 둔 딥 시맨틱 QA(Question Answering) 플랫폼을 개발, 기술력을 인정받고 있다. 자체 기업용 초거대 AI 경량화 모델인 ‘LLM42’를 출시, 생성 AI 및 대형언어모델(LLM)시장을 선도해 가고 있다. LG유플러스에서 투자 유치를 받았고 네이버클라우드와도 전략적으로 협력하고 있다.

RAG 필요성에 대해 권 이사는 "챗GPT는 2023년 10월까지 지식을 기반으로 답한다"면서 자사의 핵심기술인 데이터 전처리와 기계독해(MRC)를 설명했다. MRC는 커버리지가 떨어지지만 정확성을 높여 주는 기술이다. 특히 팩트 기반 정보를 제공할때 유용하다. 권 이사는 파운데이션 모델 튜닝을 설명하며 "목적에 맞는 학습 데이터를 모으는게 상당히 중요하다"며 데이터 수집을 강조했다.

권 대표는 포니투마루 고객 사례로 지식검색서비스를 시범 구축한 CJ제일제당을 비롯해 RAG 연동 상품추천챗봇을 공급한 LG유플러스, 지식기반 생성AI를 시연한 DB손해보험, RAG 적용 PoC를 하고 있는 KAIST, 상담원 어드바이저 서비스를 하고 있는 금융권 등을 소개했다. 권 이사는 질의응답 시간에 "할루시네이션은 100% 해결이 안된다"면서 "RAG 외에 온톨로지 등을 사용하기도 한다"고 말했다.

■ 조원희 법무법인 디엘지 대표 "EU 법안 발효...내용 잘 알고 제대로 대처해야"

유럽연합(EU)이 세계에서 처음으로 포괄적인 인공지능(AI) 기술 규제법인 ‘AI법(AI Act)’을 21일(현지시각) 최종 승인했다. 이날 EU 교통·통신·에너지이사회는 “AI법을 최종 승인했다”고 밝혔다. 2021년 초안이 발의된 지 3년 만이다. 올 3월 EU 의회에서 압도적 찬성으로 AI법을 통과시킨 뒤 법안 수정 등 절차를 거쳐 이날 확정했다.

이로써 오는 11월부터 EU 27개 회원국에선 실시간 안면 인식을 한 뒤 프로파일링을 하는 등의 인권침해적 요소를 지닌 AI 서비스가 모두 금지된다. 내년엔 인간 수준의 사고력을 지닌 범용인공지능(AGI·Artificial General Intelligence)에 대한 규제도 시행된다.

조원희 법무법인 디엘지(DLG, 구 디라이트)대표변호사는 EU와 미국의 AI법을 소개하며 국내AI 기업들의 대응방안을 조언했다. 조 변호사는 한국과학기술원(KAIST) 겸임교수와 과학기술정보통신부고문변호사로도 활동하고 있다.

조 변호사에 따르면, 이번에 EU가 승인한 AI법은 네 가지 원칙을 갖고 있다. 첫째, 인간 자동화 존중(

Respect for human autonomy)으로 AI 시스템이 인간을 부당하게 종속, 강요, 기만, 조작, 통제또

는 집단화하지 않고 오히려 인간의 인지적, 사회적, 문화적 기술을 보완한다는 것이다.

둘째, 손상 방지(Prevention of harm)로 인간의 존엄성, 정신적, 신체적 완전성을 보호하고 기술적으로 견고하며 악의적인 이용에 노출 되지않도록 보장해야한다. 셋째, 공정성(Fairness)으로 수단과 목적간 비례원칙에 따른 실질적 공정성, 또 AI시스템 또는 이를 운영하는 사람이 내린 결정에 대해 이의를 제기하고 구제를 요청할 수 있는 절차적 공정성을 말한다. 넷째, 설명성(Explainability)으로 프로세스가 투명해야하고, AI 시스템의 기능과 목적이 공개적으로 전달돼야 하며, 결정에 대한 정당한 이의를 제기할 수 없는 경우 다른 설명가능성을 위한 조치(추적성, 감사가능성 등)가 요구 될 수 있다는 것이다.

이번 EU AI법 경과를 보면 2018. 4월 발표한 '유럽 AI 전략(AI for Europe)'이 시초다. 이어 ▲2019년 4월 ‘신뢰할 수 있는 인공지능 윤리기준' 권고안 발표(전문가그룹) ▲2020년2월 19일 '인공지능백서((White paper on AI)' 발표 ▲인공지능법안 제안(proposal for a regulatory FRAMEwork on AI) 및 AI 합동계획 수정안 발표(2021.4.21) ▲유럽연합 이사회 수정안 채택(2022.12월) ▲유럽의회 수정안 채택(2023.6.14.) ▲유럽연합이사회, 유럽의회, 집행위원회가절충안잠정적합의(2023.12.8). ▲유럽연합이사회상주대표위원회(Committee of the Permanent (2024.2.2) 추가수정안가결▲유럽의회본회의가결(찬성523표, 반대46표, 기권49표, 2024.3.13)

Representatives, ‘COREPER’) 추가수정안가결 ▲이사회 공식 승인, 순차적 발효(2024. 5. 21) 등이 이뤄졌다.

조 변호사는 EU AI Act 적용범위에 대해 "EU 내에 AI 시스템 혹은 범용AI 모델을 출시하거나 서비스를 제공하는 Provider로 EU내에 설립한 법인인지 여부를 불문하고 해당한다"면서 "과학연구와 개발, 업무목적 외로 AI시스테을 사용하는 자연인 등은 제외됐다"고 말했다.

EU AI법은 AI 기술을 위험 수준에 따라 4단계로 나눠 규제한다. 최고 단계인 ‘허용될 수 없는 위험’부터 ‘고위험’ ‘제한적 위험’ ‘저위험’ 등이다. 인권침해적 AI 서비스에 대한 규제는 6개월 뒤인 11월부터 시작한다. 스마트폰 안면 인식 결제 시스템처럼 사람 얼굴을 촬영해 이용자의 성적 취향, 정치·종교적 신념, 인종 등 민감한 정보를 알아내는 서비스가 대표적이다. 또 AGI 규제는 내년 5월부터, 관련된 모든 규제가 시행되는 건 2026년 중반으로 전망된다.

법을 위반할 경우엔 벌금이 막대하다. 해당 회사 세계 매출의 최대 7%에 해당하는 벌금을 부과할 수 있다. 벌금 상한선은 3500만 유로(약 517억 원)다. EU는 AI법 시행을 위해 회원국에 ‘AI 사무국’을 두고 시행을 지원하는 과학 전문가 패널을 둘 예정이다.

조 변호사는 국내 AI기업들의 대응 8대 방안을 제안했다. 첫째, 미국AI기술 이용시 또는 미국내 범용AI 서비스제공시 미국AI 행정명령에 의한 정부고지 및 안전성평가 의무와 상무부 보고의무 여부 및 이행 점검 둘째, 생성AI 콘텐츠 워터마크 표준, 개인정보보호지침 등 세부기준과 지침발표 또는 구체화시 이에따른 위험관리 조치적용 필요 셋째, AI의 구체적 구현에 대해 명확히 예상되는 규제가 없으므로, EU AI Act의 프레임워크를 구성하는 윤리성, 신뢰성, 투명성, 안정성 측면에서 자율적으로 대비 필요 넷째, 기업의 경우 구성원들에 대해 AI 활용시 위험에 대한 교육 및 가이드라인(업무자료작성시의 활용범위에대한제한등) 마련 필요다.

또 다섯째, 인공지능 모델에 의한 결과물과 관련해 그 모델의 구조, 학습데이터, 결과도출 과정에 대한 정보를 투명하게 공개할 필요가 있고(영업비밀과충돌) 여섯째, AI 알고리즘에 대한 설명가능성 확보, 추적시스템 마련 일곱째, 개인정보와 저작권 측면에서 법률검토 필수 여덟째, 실제 리스크 상황에서 규제대응에 있어 충분한 증빙자료로 삼을수 있는 내부리스크 관리체계(거버넌스)를 구축하고, AI 비즈니스모델을 구성하는 단계에서부터 데이터를 어떻게 관리하고, 관련 사고발생시 어떻게 대응할 것 인지에 대한 방안을 마련하는 등 리스크를 사전에 통제할 수 있게 하는 점 등을 제시했다.

방은주 기자(ejbang@zdnet.co.kr)

이 기사에 대해 어떻게 생각하시나요?

지디넷코리아에서 직접 확인하세요. 해당 언론사로 이동합니다.