[기고] 경기도 AI복지, 따뜻한 기술위한 원칙 필요

인공지능 판단, 사람이 검토해야
개인정보 보호·데이터 보완 필수
사회복지 종사자 권익 보호 중요
공공성 해치지 않는 범위서 활용
혼란 방지 제도적 장치 마련할때

지미연 경기도의원(국·용인6)

“어르신, 잘 주무셨어요?” 혼자 사는 80대 노인께 하루 첫 인사를 건네는 이는 인공지능 스피커다. 복지관에서는 약 먹는 시간을 깜빡한 어르신께 돌봄전화를 걸어 필요한 안내를 제공한다. 이처럼 인공지능은 경기도 복지 현장의 일상으로 들어와 도민의 안전과 건강을 지키는 중요한 역할을 하고 있다.

그동안 사회복지는 사람만이 할 수 있는 고유 업무라 여겨졌으나 사회가 복잡해지고 복지 수요가 급증하면서 인공지능의 활용은 현실이 됐다. 행정 업무의 자동화와 방대한 데이터 분석을 통해 복지 사각지대를 줄이고 사회복지사가 상담과 사례 관리라는 본연의 역할에 집중할 수 있게 하는 것은 분명한 장점이다. 또한 개인의 상황에 맞춘 맞춤형 서비스 제공은 복지 체감도를 크게 높일 잠재력을 지니고 있다. 실제로 일부 지역에서는 치매 초기 어르신의 생활 패턴을 인공지능이 분석해 위급 상황을 예방하고 발달장애인의 생활 지원 일정을 자동으로 조율하는 사례가 보고된다.

하지만 위험도 존재한다. 인공지능은 학습된 데이터에 의존하기 때문에 편향된 데이터가 입력될 경우 취약계층을 배제하거나 불이익을 줄 수 있다. 복지 서비스가 다루는 민감한 개인정보가 유출된다면 그 피해는 심각할 수밖에 없다. 특히 고령층이나 정보 접근성이 낮은 계층은 이러한 위험에 더 취약하다. 게다가 인공지능이 사실이 아닌 내용을 사실처럼 제시하는 ‘할루시네이션’ 현상까지 고려하면 복지 현장의 혼란은 더 커질 수 있다.

인공지능으로 인한 위협은 사회복지종사자에게도 예외가 아니다. 기술이 반복 업무를 줄이고 행정 효율을 높일 수 있다는 기대는 있지만, 실제 현장에서는 오히려 업무 부담이 늘었다는 목소리도 있다. 일부 종사자는 충분한 교육 없이 새로운 시스템에 적응해야 하는 상황에 놓여 있으며 ‘기술이 도입됐는데 일이 더 많아졌다’, ‘감정노동은 여전한데 효율만 강조된다’는 반응이 나오고 있다. 이처럼 시스템이 갑작스럽게 도입될 경우 기술에 익숙하지 않은 종사자는 위축감이나 혼란을 겪기도 한다.

문제는 이를 관리할 제도적 장치가 아직 충분하지 않다는 점이다. 고속도로는 뚫려 있는데 교통법규가 없는 상태와 같다. 속도는 빠르지만 안전장치가 없다면 사고는 불가피하다. 현재 경기도에는 인공지능 복지 서비스의 안전성과 신뢰성을 보장하고 관련 산업을 건전하게 발전시킬 조례가 부재하다. 제도가 없는 상태에서 무분별한 기술 도입이 이뤄진다면 피해는 고스란히 도민에게 돌아갈 것이다.

따라서 경기도 사회복지 서비스에 4가지 명확한 원칙이 필요하다고 생각한다. 첫째, 인공지능의 판단은 언제나 사람이 최종적으로 검토하고 승인해야 한다. 기술이 잘못된 결정을 내리지 않도록 안전망을 두는 것이다. 둘째, 개인정보 보호와 데이터 보안은 절대적으로 지켜져야 한다. 최소한의 정보만을 처리하고 철저한 보안 체계를 통해 유출과 오남용을 차단해야 한다. 셋째, 사회복지 종사자의 권익을 보호하고 정기적 교육과 지원을 제공해야 한다. 이는 인공지능을 도구로 제대로 활용하게 하는 중요 장치다. 넷째, 인공지능은 공공성을 해치지 않는 범위에서 산업 발전의 기회로 활용돼야 한다. 복지 현장에 맞는 기술을 개발하고 기업과 연구기관을 육성하되, 도민의 권리와 복지의 본질적 가치가 훼손되지 않도록 해야한다. 기술 발전과 사람 중심의 가치가 균형을 이룰 때 인공지능은 진정한 도움이 될 수 있다.

무엇보다 인공지능은 도민을 위한 수단일뿐 목적이 될 수 없다. 결국 미래를 결정하고 사회 문제를 해결하는 최종 책임은 사람에게 있다. 인공지능이 도민을 위한 따뜻한 복지의 동반자가 되기 위해서는 지금 바로 원칙과 제도를 세워야 한다. 이에 필자는 경기도의회 보건복지위원으로서 이러한 원칙을 담은 ‘경기도 사회복지 인공지능 서비스 활용 촉진 지원 조례’를 추진하고자 한다. 이 조례가 모든 해답을 제시하진 않겠지만, 인공지능 복지를 둘러싼 변화의 방향을 정립하는 작지만 의미 있는 첫걸음이 되길 바란다. 앞으로도 더 많은 논의와 현장의 목소리가 이어지길 기대한다.

/지미연 경기도의원(국·용인6)

<※외부인사의 글은 경인일보의 편집방향과 다를 수도 있습니다.>