LLM 기반 서비스 개발시 꼭 알아야 할 3가지...김영욱 헬로우AI 대표 “LLM 도입 목적을 명확히 해야”

“대규모 언어모델(LLM) 기반 서비스 개발에 기업이 관심을 가져야 하는 이유는 기존의 IT 기술과 다른 엄청난 잠재력과 폭발력이 있는 기술이기 때문이다. LLM은 앞으로는 기업 경쟁력에 꼭 필요한 필수적인 기술이다.”

김영욱 헬로우AI 대표

김영욱 헬로우AI대표는 2월 6일 열리는 대규모 언어모델(LLM) 앱 비즈니스 세미나에 앞서 가진 인터뷰에서 LLM 기반 서비스 개발의 중요성에 대해 이렇게 밝혔다.

김영욱 대표는 LLM 기반 서비스 개발시 꼭 알아야 할 3가지 유의사항에 대해서도 설명했다. 첫 번째는 LLM을 도입하는 목적을 분명히 해야 한다는 것이다. 김 대표는 도입 목적이 불명확할 시에 프로젝트가 끝나지 않고 계속 진행되며 흐지부지되는 경우가 많다고 조언했다.

두 번째 유의해야 할 점은 목적에 맞는 기술을 선택할 수 있도록 내부 팀의 성숙도를 올려야 한다. 언어모델 개발에서 기술의 선택은 곧 운영 비용과 성능과 직접적이고 큰 차이를 만든다는 것이 김 대표의 설명이다.

세 번째 유의할 부분은 공개되어 있는 프레임워크에 대한 이해가 필수 요소다. 직접적으로 사용해서 성과를 내거나 아니면 프레임워크 자체를 살펴 보면서 많은 것을 배울 수 있기 때문이다. 이 같은 조언은 김영욱 헬로우AI 대표의 최근 프로젝트 경험에서 나온 것이다. 헬로우AI는 클라우드 기반의 인공지능을 주로 컨설팅하고 개발하는 인공지능 전문 업체로 최근에는 주로 생성형 AI 기술 프로젝트를 주로 맡고 있다.

김영욱 대표는 LLM 기반 서비스 기획 과정에서도 3가지 꼭 알아야 할 부분이 있다고 설명했다. 첫번째, 사용할 언어모델의 선택이 중요하다는 것. 두 번째, 언어 모델이 선택이 되면 목적에 부합되는지 빠르게 프로토타입핑 하는 과정을 거쳐야 한다. 세 번째는 언어 모델의 목적에 맞는 활용 방법을 선택해야 한다.

김영욱 대표는 “대부분의 기업은 많은 경우 파인 튜닝으로 해결하려고 하는 경향이 있는데 이는 꼭 필요한 경우에만 사용하면 된다”면서 “목적에 맞는 활용 방법을 찾는 것이 바람직하다”고 설명했다.

김 대표는 이어 “전에는 주로 오픈AI나 구글과 같이 상용 서비스가 많은 주목을 받았다면 최근에는 오픈 소스 기반의 언어 모델들이 주목받고 또 많은 가능성을 보여주고 있어서 기대되고 있다”고 전망했다.

한편 김영욱 헬로우AI 대표는 2월 6일 잠실 광고문화회관에서 열리는 LLM 앱 비즈니스 세미나에서 '새로운 LLM 기술과 LLM 기반 서비스 개발의 A to Z'라는 주제로 발표를 한다. 이 행사에서는 LLM 앱을 기획, 개발할 때 유의할 점 등 다양한 사례가 발표된다. 행사에 대한 더 자세한 정보는 자세한 정보는 컨퍼런스 홈페이지(https://conference.etnews.com/conf_info.html?uid=291)에서 확인할 수 있다.

전자신문인터넷 유은정 기자 judy6956@etnews.com