[기고] 생성형 AI 시대, 새 개발방법론 필요하다

김성우 KT DS 기술혁신단장

오늘날 많은 기업들이 급변하는 시장환경과 고객요구에 대응하고 차별화된 경쟁력을 확보하기 위해 생성형 인공지능(AI) 도입(AI Transformation, AX)에 주목하고 있다. 생성형 AI는 사전에 학습된 모델을 기반으로 텍스트, 이미지, 비디오 등 다양한 콘텐츠를 생성하는 기술이다. 이를 통해 새로운 비즈니스 기회를 모색하고, 고객경험을 개선하며, 내부 프로세스를 자동화하는 등 다양한 혁신을 이룰 수 있다.

생성형 AI를 활용한 개발은 많은 컴퓨팅 자원이 필요해 클라우드 환경이 필수적이다. 대부분의 경우 퍼블릭 클라우드의 GPU 환경을 사용하며, 개발 과정에서는 기업의 요구에 적합한 모델을 찾고 서비스 품질을 최적화하기 위한 탐색과 최적화 과정을 거친다.

이러한 특징을 고려할때, 생성형 AI를 성공적으로 도입하기 위해 어떤 개발방법이 필요할까? 크게 두 가지 관점의 변화가 필요하다. 하나는 반복성이고, 다른 하나는 품질 평가이다.

기존의 폭포수(Waterfall) 방식은 체계적이고 계획적이지만, 개발 주기가 길고 변화대응력이 떨어진다는 단점이 있다. 반면, 생성형 AI 개발에서는 변화 대응력이 핵심이다. 신기술 아키텍처와 주요 기술요소를 사전에 검증하는 프로세스를 포함하고, 프로젝트를 점진적이고 반복적인 개발기법으로 설계해 고객 요구 사항이나 기술요소의 변경 사항을 유연하게 수용할 수 있도록 해야 한다.

이러한 접근을 통해 예측하기 어려운 클라우드 비용을 최적화할 수 있으며, 작은 단위의 기능을 빠르게 개발하고 지속적인 피드백을 통해 개선하며, 변화에 유연하게 대응하고 시장요구에 신속하게 부응할 수 있다.

또한, 생성형 AI는 잘못된 정보를 생성하는 환각현상을 피하기 어려운 문제가 있다. 이를 최소화하고 기업 요구에 맞춰 더욱 정확하고 유용한 생성 결과를 얻기위해 미세조정(Fine-Tuning)과 검색증강생성(Retrieval-Augmented Generation, RAG) 기법이 주로 사용된다. 미세조정은 특정 도메인이나 작업에 맞춰 모델을 세밀하게 조정해 성능을 극대화하고, RAG는 검색기반 접근방식을 통해 최신정보를 제공하여 모델의 정확성과 신뢰성을 높여준다.

미세 조정된 모델의 성능평가는 정량적 평가와 정성적 평가로 나눌 수 있다. 정량적 평가는 정확도, 문장 유사도, 평가데이터 셋을 기반으로 한다. BLEU, ROUGE, METEOR와 같은 지표를 사용한다. 정성적 평가는 전문가 평가와 사용자 만족도 조사를 포함하며, 답변의 정확성, 관련성, 유창성 등을 평가한다.

RAG가 적용된 경우, 검색모듈과 생성모듈을 개별적으로 평가하고 통합품질을 종합적으로 분석하는 방식을 취한다. 이러한 다각적 평가를 통해 모델의 성능을 정확히 파악하고 개선방향을 설정할 수 있다.

그러나 이러한 기법들을 적용해도 환각현상에 대한 위험은 여전히 남아있다. AI가 생성한 잘못된 정보가 기업의 신뢰성을 해칠 수 있기 때문에 생성형 AI를 활용할 때는 모델 선택과 품질 관리에 신중해야 한다. 생성된 콘텐츠의 품질을 확보하고 잘못된 콘텐츠를 걸러내는 방법을 마련하는 등 개발단계부터 품질관리 방안을 마련해야 한다. 이것이 품질평가가 새로운 개발방법론에 반드시 포함되어야 할 이유다.

결론적으로, 생성형 AI의 도입은 단순한 기술적용을 넘어선 새로운 개발방법론의 수립을 요구하는 복합적인 과정이라 할 수 있다. 반복적 개발기법과 다각적인 품질평가를 포함하는 새로운 개발방법론을 통해 생성형 AI 프로젝트 수행의 생산성을 크게 향상시킬 수 있을 것이다. 검증된 절차에 따라 프로젝트를 안정적으로 진행할 수 있어, 예상치 못한 문제 발생을 최소화하고 프로젝트 완료 시점을 정확히 예측할 수 있다. 나아가 최신기술을 빠르게 도입하고 적용할 수 있는 능력을 갖추게 되어 변화하는시장과 기술요구에 신속하게 대응하고, 생성형 AI의 잠재력을 최대한으로 끌어낼 수 있다. 이를 통해 기업은 경쟁력을 강화하고, 고객에게 더욱 만족스러운 경험을 제공하여 비즈니스 목표를 달성할 수 있을 것이다.