행정에 접목된 AI…여러 성과 속 남은 과제는?

["잡무 맡기고, 응급환자 살리고" AI 행정 기획보도⑤]
지능형CCTV 상위법 없는 조례에 '소극적 활용'
전남도 내에서도 CCTV 설치 17배 이상 차이
'AI 환각' 현상, 실무자의 판단 중요해
AI 도입에 기업·공공 일자리 ↓
일부 시민들 "거부감·어려움 느껴"

편집자 주

딥러닝 등 학습이 가능해진 인공지능(AI) 기술은 우리의 일상생활을 변화시키고 있다. 특히 행정에 AI가 적용되면서 인력만으로는 불가능했던 행정 수요가 극복되거나 응급 상황에 놓인 사람을 찾아 구조하는 일도 가능해지고 있다. 광주CBS는 다양한 방식으로 도입되고 있는 AI 행정의 현장을 살펴보고 한계와 문제점을 짚어보는 <"잡무 맡기고, 응급환자 살리고" AI 행정 기획보도>를 마련했다. 오늘은 마지막 다섯 번째 순서로 AI 기술이 접목된 행정의 여러 성과에도 불구하고 남은 과제와 한계에 대해 보도한다.

광주광역시통합관제센터 제공

▶ 글 싣는 순서

① 주취자 민원 당직AI에 맡겼더니…AI 행정 활용 어디까지?
② 사람 살리고 건강 챙기고…복지 행정 지평 바꾼 '학습 AI'
③ 1인가구 안부 묻고 다문화가정 언어치료도…'AI 친구'
④ AI 기술 접목 '지능형CCTV'…"범죄 막고, 신고 전 해결"
⑤ 행정에 접목된 AI…여러 성과 속 남은 과제는?
(끝)

행정에 적용된 AI 기술은 인력 부담과 민원 처리 시간을 줄였다는 긍정적 평가 뒤에 기술 발전을 따라오지 못하는 법과 제도, 개인정보 유출과 인권 침해 우려, 일자리 축소 등 만만치 않은 과제들을 안고 있다.

지능형CCTV 효과 속 확대 추진…통합관제센터 구축·운영 상위법·조례 無

AI 기술이 접목된 지능형CCTV 활용이 확대되는 상황에서 통합관제센터 운영의 근거가 되는 상위법은 아직 마련돼 있지 않은 것으로 파악됐다. 이 같은 상황에서 일부 지역에서는 조례 역시 마련하지 못한 채 통합관제센터를 운영하고 있는 상황이다.  

통합관제센터의 안정적인 운영을 위해서는 조례 제정이 필요하다는 판단에 광주시는 현재 조례(광주광역시 영상정보처리기기 통합관제센터 구축 및 운영) 제정을 추진 중이다. 해당 조례는 광주시가 영상정보처리기기 통합관제센터 구축과 운영함에 있어 필요한 사항은 물론, 운영위원회 설치에 대한 내용 등을 규정하고 있다.

그러나 상위법이 없는 상황에서 광주시는 영상정보의 수집·이용·제공에 대해서 개인정보보호법에 기반해 조례 제정을 추진하고 있다. 통합관제센터 운영은 물론 지능형CCTV 활용에 발목을 잡을 수 있다는 우려가 나온다.

같은 전남인데 지능형CCTV 설치 17배 이상 차이

유사한 맥락에서 통합관제센터 구축·운영에 대한 명확한 규정과 의무 조항이 없는 상황에서 지능형CCTV를 포함한 CCTV 설치·운영의 지역별 편차가 발생하고 있다.

실제 전남 22개 시·군 중 지능형CCTV가 가장 많이 설치된(2023년 12월 기준) 곳은 여수로 2101개에 이르는데 반해 가장 적게 설치된 곳은 나주로 120개에 불과하다. 같은 전남이지만 여수에 설치된 지능형CCTV가 나주에 비해 17배 정도 많은 것이다. 실종자 수색과 범죄 예방 효과 등에서 지역적 편차가 발생할 수 있다는 우려가 나오는 이유다.

전라남도 관계자는 "지능형CCTV 설치 사업이 도와 시·군이 매칭해 진행하다 보니 예산에 상대적으로 여유가 있는 시·군에 많이 설치되고 있다"며 "지역적 특성과 범죄 예방 효과 등을 고려할 때 장기적으로는 어느 정도 균형을 맞춰나갈 필요가 있다"고 말했다.

구청이나 교육청 따로 관리하는 CCTV도 '통합 관제' 필요

지능형CCTV. 박요진 기자

구청 도로과나 건설과, 교육청 등에서 관리하고 있는 CCTV를 통합해 관제할 수 있도록 하는 것도 남은 과제다.

광주시교육청은 현재 초등학교에 설치된 CCTV뿐만 아니라 중·고등학교에 설치된 CCTV도 통합관제센터에서 관제할 수 있는 방안을 검토 중인 것으로 알려졌다.

경찰 수사 과정 등에서 현재는 담당 기관에 일일이 협조를 받아야 해 효율성이 떨어지고 심야 시간대 관제가 사실상 제대로 이뤄지지 못하고 있기 때문이다. 광주시 관계자는 "초등학교에 설치된 CCTV의 경우 센터가 구축된 2013년부터 통합관제센터에서 관제하고 있다"며 "교육청이 중·고등학교에 설치된 CCTV를 통합관제센터에서 관제할 수 있는 방안이 있는지 문의해 온 상황"이라고 말했다.

'AI 환각' 현상…긴급 판단은 결국 사람의 몫

AI안부전화가 "대상자가 '가슴 통증'을 호소한다"며 응급 알림을 보냈지만 실제 대화 내용은 달라 행정 담당자의 추가적인 상황 판단이 필요한 사례. 독자 제공

AI가 대상자가 위급하다고 판단했지만 실제 현장 상황이 달라 분석 정확도가 떨어진다는 아쉬움도 나온다.

광주시 A구청 관계자는 "한 대상자가 가슴통증을 호소하고 있다며 위급 알림이 발송됐지만 대화 내용은 전혀 달랐다"며 "통화 내용에 따라 AI가 감지하는 위급 상황과 실제 현장이 많이 다르기도 하다"고 말했다.

김명주 바른AI연구센터장은 생성형 AI는 일반적 AI보다 정확도가 떨어지면서 환각(할루시네이션) 현상으로 정확도 재점검이 계속 필요하다고 조언했다. 김 센터장은 "행정 업무를 할 때 AI가 주는 정보가 정확한 정보인지 항상 점검해야 하는 부분이 있다"며 "가이드라인을 통해 AI의 결과 데이터를 그대로 적용하지 않는 업무 처리 과정이 추가로 요구된다"고 말했다.

일부 대상자들은 자신의 개인 정보가 외부로 유출되거나 다수에게 노출되면서 학습에 사용될 것을 우려하기도 했다.

이와 관련해 케어콜 관계자는 "기억하기 서비스가 개인 정보를 저장하기는 하지만 AI 학습에 이용될 때 문제가 될 뿐 통화 서비스 사용에 있어서는 현행 개인정보법에 저촉되지 않는다"면서 "대상자의 통화 데이터는 지자체 복지담당자만 열람할 수 있는 권한이 부여된다"며 "통화 내용 등은 외부에서 일체 볼 수 없다"고 말했다.

김 센터장은 결국 시민 스스로가 적극적으로 해당 우려를 표출해를 통해 타협점을 찾아야 한다고 조언한다. 김 센터장은 "지능형 CCTV나 AI안부전화 등은 공공의 이익과 사생활 침해 사이에서 계산을 통해 사업 시행여부를 검토한다"며 "사생활 침해가 있다고 해도 공공의 이익이나 안전에 더 도움이 된다고 하면 법적으로 촬영이나 녹음 등을 고지하는 방식"이라고 설명했다.

AI 도입 기업·공공서 활용 늘수록 일자리 감소 우려

광주시 관계자가 최근 광주시청 재난안전상황실에서 AI당직기로부터 접수된 민원을 살펴보고 있다. 김한영 기자

광주시는 AI당직기를 도입해 당직 업무 일부가 축소됐으며 대전 서구청과 익산시청, 부산 강서구청 등이 AI 기반의 보이스 봇을 도입해 행정에 활용하고 있다. 광주시는 지난 8월 광역자치단체 가운데 최초로 AI당직기를 도입했다.  AI 도입은 사기업에 비해 직업적 보장성이 높은 '공무직'에 더 빠르게 나타나고 있다.

과학기술정보통신부에 따르면 올해 기준 AI서비스 경험률·도입률은 기업 28%, 공공 55% 수준으로 공공 영역에서 두 배 넘게 높았다. 정부는 지난 4월 국가 전반의 'AI 일상화'를 위해 올해 7102억 원을 투입하고 기업·공공 AI 도입률을 60~80%까지 높일 계획이라고 밝혔다.

한 AI 전문가는 "공무직에서 AI의 적극적인 도입은 업무 효율성이 높아지거나 다른 업무 수행에 도움을 줄 수 있지만 기업에서는 고용이 없어지는 방향으로 역효과가 나올 것"이라고 예측했다.

AI 활용에 대한 거부감 극복도 과제

광주시청 재난안전상황실에 AI당직기로부터 접수된 민원. 김한영 기자

AI당직기는 다양한 상황의 시나리오를 이리 교육시켜 교통 불편과 분실물 신고, 상수도 등 다양한 민원을 처리할 수 있다. 하지만 사투리에 대한 인식은 상대적으로 떨어지는 상황이다. 광주 시민들의 억양과 어투 등에 대한 데이터가 아직 충분히 확보되지 않아 학습이 이뤄지지 않았기 때문이다.

광주시 관계자는 "아직 서울 기반으로 데이터가 구성돼 광주 사투리 등은 인식을 못하는 경우가 있다"면서 "AI당지기는 딥러닝 기능도 탑재된 만큼 데이터가 쌓이면 쌓일수록 정확도가 향상돼 사투리를 소화하려면 시간 더 걸릴 것 같다"고 말했다.

AI당직기는 음성이나 보이는 ARS로 진행돼 노인 등 디지털 소외계층은 사용에 어려움을 느끼거나 거부감을 갖게 된다. 키오스크 활용의 여러 장점에도 디지털 소외계층에 대한 배려나 지원 등이 필요한 것과 유사한 상황이다.

AI안부전화를 이용하는 지자체도 일부 대상자가 서비스 불만족을 제기한 사례를 언급했다.

광주 B구청 관계자는 "대상자에게 매주 화요일 전화를 걸지만 대다수가 그만 통화하고 싶다고 하기도 한다"며 "주기적으로 안부 확인이 필요하다고 판단된 세대를 선정해 전화하고 있지만 자세히 일상대화를 하지는 못하는 상황도 발생한다"고 말했다.

※CBS노컷뉴스는 여러분의 제보로 함께 세상을 바꿉니다. 각종 비리와 부당대우, 사건사고와 미담 등 모든 얘깃거리를 알려주세요.

• 이메일 :jebo@cbs.co.kr
• 카카오톡 :@노컷뉴스
• 사이트 :https://url.kr/b71afn

광주CBS 김수진 기자 sjsj@cbs.co.kr

▶ 기자와 카톡 채팅하기▶ 노컷뉴스 영상 구독하기