"복잡한 내부 데이터 검색도 쉽게‥이상적인 모델은 '자비스'"

넥슨 'AI옵스(AIOps) 프로젝트' 담당자 인터뷰

박종민 넥슨 테크이노베이션실 공통서비스개발팀 엔지니어(왼쪽)와 김태효 공통서비스개발팀장이 20일 서울 강남 코엑스에서 진행된 인터뷰에서 넥슨 AIOps 프로젝트에 대해 설명하고 있다. AWS 제공

[파이낸셜뉴스] "인프라를 운영할 때 인공지능(AI)을 접목해 효율성을 높이는 것이 주된 목표다. 가장 이상적인 모델로는 영화 아이언맨에 등장하는 AI 비서 '자비스' 같은 형태를 상상해볼 수 있다."
20일 서울 강남 코엑스에서 만난 김태효 넥슨 테크이노베이션실 공통서비스개발팀장( 사진)은 "전통 방식으로 업무 효율을 높이기에는 한계가 있다"며 이 같이 강조했다. 넥슨은 내부 정보기술(IT) 시스템을 효과적으로 관리하고, 업무 효율성을 높이기 위해 지난해 태스크포스(TF)를 꾸려 AI옵스(AIOps) 프로젝트를 시작했다. AI옵스란 AI와 IT운영(IT Operations)의 합성어로, AI를 활용해 기업의 IT 인프라를 자동화하는 것을 의미한다. 기업이 보유한 IT 운영 데이터를 분석, 문제를 실시간으로 파악해 자동으로 대응할 수 있도록 시스템을 구축하는 것을 의미한다.

이번 프로젝트로 사내 인프라 정보를 정확하고 빠르게 안내하는 AI 챗봇이 구현됐다. 직원들이 내부적으로 데이터 검색 시 연관 정보를 한번에 쉽게 조회할 수 있도록 지원하는 것이다.

박종민 넥슨 공통서비스개발팀 엔지니어는 "처음에 서비스를 구현했을 때 필요한 연결고리를 다 찾아서 한 번에 대답하면서 작동 자체는 잘 했다"면서도 "단일 서비스에 적용할 경우 빠르게 답하지만, 종합 서비스에 적용 시 답변 속도가 느리다는 게 문제였다. TF 막바지에는 30초까지 답변 반응 속도를 줄였다"고 말했다. 김 팀장은 "내부적으로 기대하는 건 2~3초 내로 답변이 나오는 것"이라고 부연했다.

AI 챗봇이 가진 본질적인 할루시네이션(환각) 문제에 대해 박 엔지니어는 "챗봇이 정확한 답변을 못 내놓는다는 건 내부 데이터를 몰라서 그런 것"이라며 "인터넷 상에 떠도는 루머를 이야기하는 등의 오류를 잡기 위해 노력했고, 데이터 기반이 아닌 답변은 하지 않도록 연습시켰다"고 말했다.

이번 프로젝트는 아마존웹서비스(AWS)팀과 10주간 협업을 통해 이뤄졌다. 특히 생성형 AI 애플리케이션(앱)을 구축하는 데 필요한 광범위한 기능을 제공하는 아마존 베드록을 통해 서비스가 구현됐다. 박 엔지니어는 "어떤 모델을 사용해야 할지 모르는 상태에서 베드록은 많은 모델을 제공해 유용했다"며 "암호화가 돼 내부 데이터 유출에 대한 걱정도 적었다"고 전했다. 이번 넥슨 프로젝트에서는 앤트로픽의 '클로드' 모델이 사용됐다.
#넥슨

soup@fnnews.com 임수빈 기자