서울시, 생성형 AI 적용 '챗봇 2.0' 본격 가동

자체 LLM 구축에 외부 AI로 이원화 운영
시민용 '서울톡'도 생성형 AI, 최신 정보 제공

서울시에 따르면 11일부터 본격 운영되는 '챗봇 2.0'은 시 행정망 내부에 구축한 대규모 언어모델(LLM)을 기반으로 한 직원용 AI 행정 지원 서비스와 생성형 AI를 적용해 기능을 강화한 시민용 챗봇 '서울톡'으로 구성된다. /서울시

[더팩트 | 김명주 기자] 서울시가 생성형 AI(인공지능)를 행정 전반에 적용한 '챗봇 2.0'을 11일부터 본격 운영한다.

시에 따르면 '챗봇 2.0'은 시 행정망 내에 대규모 언어모델(LLM)을 기반으로 한 직원용 AI 행정 지원 서비스와 생성형 AI를 적용해 기능을 강화한 시민용 챗봇 '서울톡'으로 구성된다.

시는 보안이 요구되는 행정 환경을 고려해 행정망 내부에 자체 LLM을 구축했다. 이를 기반으로 질의응답, 문서생성·요약·분석 등 AI 행정 지원 기능을 제공한다.

또한 LLM API(응용 프로그래밍 인터페이스)를 통해 다른 행정 시스템에서도 생성·요약·분석 기능을 활용할 수 있도록 연계 기반을 마련했다.

자체 LLM과 외부 생성형 AI 서비스를 병행하는 이원화 운영체계를 구축했다. 보안성과 활용성을 동시 확보하기 위해서다.

시민용 챗봇 '서울톡'은 생성형 AI 적용을 통해 한층 고도화했다. 기존 120 상담 중심 민원 안내에서 벗어나 최신 정보를 24시간 자동 제공하는 AI 서비스로 발전한다. 'AI에게 물어보기' 기능을 도입해 시 누리집 정보와 외부 웹 검색을 연계한 최신 정보 제공이 가능해진다.

서울시는 '챗봇 2.0'을 기반으로 올해 말 AI 에이전트를 시범 적용할 계획이다. 시는 AI를 단순 질의응답을 넘어 실제 업무를 지원하는 단계로 확대한다. AI 에이전트는 내부 시스템과 연계해 필요한 정보를 조회하고 문서 작성, 자료 정리 등 반복 업무를 스스로 수행하는 방식으로 운영된다.

강옥현 서울시 디지털도시국장은 "챗봇 2.0은 공무원에게는 지능형 업무 파트너, 시민에게는 생활 밀착형 정보 안내 서비스가 될 것"이라며 "앞으로도 지속적인 고도화를 통해 서울시 행정의 AI 전환을 가속화하겠다"고 말했다.

silkim@tf.co.kr

발로 뛰는 더팩트는 24시간 여러분의 제보를 기다립니다.
▶카카오톡: '더팩트제보' 검색
▶이메일: jebo@tf.co.kr
▶뉴스 홈페이지: http://talk.tf.co.kr/bbs/report/write