[글로컬픽]원주 공공 영역 진입한 AI..."한계와 책임은?"
행안부·과기정통부·심평원·원주시 등 참여
심평원, 이달부터 무릎관절 AI 판독 결과 심사에 적용
공공 AI 활용·개인정보 보호·판단 책임 논의
공공기관의 인공지능(AI) 활용이 실제 업무로 확대되면서, AI 판단의 신뢰성과 책임 문제가 새로운 과제로 떠오르고 있다.
최혁진 국회의원(무소속·비례)이 건강보험심사평가원 제2사옥에서 주최한 이번 포럼은 'AI 대전환 시대의 신안보 전략과 원주혁신도시 공공기관의 역할'을 주제로 진행됐다. 행사에는 행정안전부와 과학기술정보통신부, 심사평가원, 원주시 등 관계 기관과 지역 대학·연구기관이 참여했다.
최 의원은 개회사에서 최근 국회에서 해외 AI 전문가들을 만난 경험을 소개했다. 당시 영국 앨런 튜링 연구소 관계자가 AI를 활용해 가상의 의료기관 시스템을 공격하는 시연을 했고, 이를 보며 AI 기술 발전과 안전장치를 함께 고민해야 한다는 문제의식을 갖게 됐다고 설명했다.
특히 원주에는 심평원과 국민건강보험공단, 국립과학수사연구원 등 민감정보를 다루는 공공기관이 모여 있어, AI 활용 확대에 따른 기관·지자체 간 보안 협력체계가 필요하다고 강조했다.
■ AI 키우는 원주...이제는 '신뢰·책임' 과제로
원주는 이미 AI 산업과 실증 사업을 추진하고 있다. 지난해 12월에는 'AI위원회'와 'AI추진단'이 출범했고, 심평원·건보공단 등 11개 기관과 'WAH(와·원주 AI for Healthcare) 프로젝트' 공동협력 체계도 구축했다.
지난 6월에는 국토교통부 'AI 특화 시범도시'로 선정됐다. 해당 사업에는 국비 1434억원을 포함해 총 1981억원이 투입되며, 2027년부터 2030년까지 교통·주거·재난안전·헬스케어 등에 AI 기술을 적용·실증한다.
이날 포럼에서는 이 같은 AI 확산 흐름 속에서 실제 공공업무에 AI를 적용할 때 필요한 신뢰와 책임 문제가 논의됐다.
■ 심평원, 무릎관절 AI 심사 돌입..."결정은 사람이"
심평원은 이달 1일부터 무릎관절 분야에 AI 의료영상 판독 결과를 진료비 심사업무에 처음 적용했다. 그동안 심사 참고자료로 활용하던 AI 판독 결과를 실제 심사에 반영한 것으로, 최종 판단은 사람이 맡는다.
김무성 심평원 AX혁신실장은 포럼에서 부당청구 위험 감지와 무릎관절·척추·요로결석 의료영상 분석 등 AI 활용 사례를 소개하며 "AI는 지원하는 역할을 하고 사람이 결정한다"는 원칙을 밝혔다.
김 실장은 AI를 실제 업무에 적용할 때 책임 주체와 데이터 신뢰성을 함께 따져봐야 한다고 말하면서, AI 작동 상태를 지속적으로 평가·점검하고 불평등이나 편향 가능성까지 관리할 필요가 있다고 강조했다.
■ AI 활용 넓을수록 책임도 커져..."공공기관은 신뢰 보증자"
AI 활용 확대에 따른 공공기관의 책임 문제도 논의됐다.
홍승권 심사평가원장은 공공기관이 단순한 AI 기술 공급자가 아니라 국민 신뢰의 '보증자' 역할을 해야 한다고 말했다. 심평원이 축적한 보건의료 데이터를 공적 자산으로 활용하되 개인정보와 보안도 함께 살펴야 한다는 것이다.
행안부도 AI 활용이 확대될수록 정부의 책임도 커져야 한다며, 공공부문 AI 윤리기준과 영향평가를 도입할 계획이라고 밝혔다. 영향평가를 통해 AI 도입 효과뿐 아니라 국민 권리 침해 가능성과 판단 책임 등을 사전에 점검하기 위해서다.
의료데이터 활용에는 제도적 과제도 있다. 배현만 원주시 첨단산업과장은 개인정보보호 문제 등으로 심평원과 건보공단 등이 보유한 데이터를 활용하기가 쉽지 않다고 설명했다. 폐쇄된 환경에서 데이터를 활용하고 결과물을 반출하는 것은 가능하지만, 기관 간 시스템을 연계해 활용 범위를 넓히려면 법 개정이 필요할 수 있다고 했다.
최 의원은 "포럼에서 나온 논의를 바탕으로 정책 대안을 찾고, 국회에서도 필요한 제도적 지원이 이뤄지도록 역할을 다하겠다"고 밝혔다.
권미나 머니투데이방송 MTN 기자