GPTs 등 LLM 앱 개발시 꼭 알아야 할 2가지

용혜림 10X AI클럽 대표 “유용성과 할루시네이션 방지”

“생각보다 현재 단계의 대규모언어모델(LLM)과 GPT 모델들은 똑똑하지 않다. 어린아이에게 해야 할 일을 차근차근 자세히 알려주듯이 프롬프트를 작성할 때에도 최대한 자세히 알려줘야 하고, 명확하게 알아들을 수 있도록 해야 한다.”

용혜림 10X AI클럽 대표

용혜림 10X AI 클럽 대표는 2월 6일 열리는 대규모 언어모델(LLM) 앱 비즈니스 세미나에 앞서 가진 인터뷰에서 “예를 들어 원하는 답변의 형식이 정해져 있다면 답변 예시를 알려주는 것이 훨씬 더 좋은 퀄리티의 답변을 생성하기도 하고, 따로 좋은 답변들만 모은 파일을 추가적으로 학습시키면 할루시네이션을 방지할 수 있는 방법이 있다”라고 LLM 앱 개발 과정에서의 프롬프트 중요성에 대해 설명했다.

용혜림 대표는 4년 전 챗봇 스타트업 창업에 이어 최근에는 랭체인이라는 LLM 개발 언어를 활용한 다양한 프로젝트를 진행했고, 생성 AI 개발과 활용에 대해 알리기 위해 인공지능(AI) 커뮤니티인 10X AI 클럽을 설립해 운영하고 있다.

용혜림 대표는 GPTs 등 LLM 앱 만들 때 유의해야 할 2가지에 대해서 설명했다. 첫 번째는 LLM 앱의 출시 목적을 명확히 해야 한다는 것으로, 앱이나 프로젝트를 만들 때 가장 중요하게 생각할 것은 이걸 왜 만드는지, 그리고 사람들이 실제로 유용하게 쓸 앱인지에 대해 명확하게 알고 있어야 한다는 것이다. 사용자들은 앱을 사용할 때 어떤 기술이 쓰였는지보다는 이 앱이 나의 문제를 제대로 해결해주는지에 따라 사용하기 때문이라고 말했다.

두 번째로는 할루시네이션을 얼마나 잘 잡는지에 따라 앱의 퀄리티가 달라진다는 것이다. 할루시네이션은 GPT 모델을 사용하면서 AI가 잘못된 정보를 생성할 때를 뜻하는데, 만약 회사 내의 고객 서비스 챗봇에서 잘못된 응대 매뉴얼 정보를 생성해서 고객에게 알려준다면 자칫 큰 문제로 이어질 수도 있다. 그래서 이런 부분들을 프롬프트 엔지니어링을 통해 최대한 우회하고 방지할 수 있는 시스템을 만들어야 한다는 것이 용혜림 대표의 설명이다.

용혜림 대표는 “LLM 앱 비즈니스에서 가장 중요한 것은 다른 앱과의 차별화 전략이며, 지난해 'GPT 래퍼(GPT Wrapper)'라는 문구가 유행했다”라면서 “오픈AI의 GPT 모델에 의존한 누구나 쉽게 만들 수 있는 차별점이 없는 프로젝트를 뜻하는 말로 이것을 피해야 성공할 수 있다”라고 소개했다.

예를 들어 PDF를 넣고 이에 대한 질문과 답변을 해주는 프로젝트를 만든다고 한다면, 이는 오픈AI의 자연어 모델에 의존한 누구나 쉽게 만들 수 있는 프로젝트이다. 이것의 가장 큰 문제는 차별화 전략을 갖기 어렵다는 것이다. 더 많은 네트워크와 사용자를 이미 확보해놓은 더 큰 기업에서 만든다면 경쟁 자체가 어렵기 때문이라고 전했다.

용 대표는 스타트업이 LLM 앱 비즈니스를 하기 위한 2가지 전략을 소개했다. 첫 번째는 틈새시장을 공략한 수직적 전략을 택하는 것으로, 대기업에서 원하는 특정 업무 자동화 프로젝트를 대신 만들어주는 방식이다.

두 번째는 AI 네이티트(AI Native) 전략이라며 용 대표는 “LLM 앱이라는 것이 생성 AI라는 신기술이 나옴으로써 탄생할 수 있는 기존에 없던 새로운 플랫폼/서비스”라면서 “생성 AI로 나올 수 있는 아예 보지 못했던 'AI 네이티브 비즈니스 모델들이 생겨날 수 있다”라고 말했다. 예를 들어 인터넷이라는 기술이 처음 나왔을 때 구글이라는 검색 엔진이 탄생됐고, 기존에는 상상할 수 없었던 광고 수익화 모델이 생겼던 사례처럼 새로운 모델이 나올 수 있다고 덧붙였다.

또한, 용 대표는 스타트업이 아닌 기존 비즈니스를 하는 기업 입장에서도 LLM 앱을 주목한다고 말했다. 기존의 프로덕트에 생성 AI를 입혀 업무 시간과 인건비를 단축할 수 있는 다양한 방법들이 있다는 것이다. 예를 들어 고객 서비스 챗봇을 만들거나, 마케팅 업무 자동화, 채용 자동화 등을 통해 반복적이고 노동 집약적이었던 부분들을 없앰으로써 더 중요한 업무들에 시간을 할애할 수 있다는 것이 용 대표의 설명이다.

한편 용혜림 대표는 2월 6일 잠실 광고문화회관에서 열리는 LLM 앱 비즈니스 세미나에서 자신의 업무에 적용해볼 수 있는 나만의 업무자동화 챗봇을 직접 만들어보는 시연을 할 예정이다. 이 행사에는 LLM앱이 가져올 비즈니스 기회 및 전망 뿐만 아니라 LLM앱을 기획, 개발할 때 유의할 점 등 다양한 사례가 발표된다. 행사에 대한 더 자세한 정보는 자세한 정보는 컨퍼런스 홈페이지(https://conference.etnews.com/conf_info.html?uid=291)에서 확인할 수 있다.

전자신문인터넷 유은정 기자 judy6956@etnews.com