“허위 답변 검증할 능력 기를 것” 지자체 AI 행정 윤리 기준 마련

서울디지털재단 첫 시도, 규제 아닌 활용 당사자 규범 성격
시, 다산콜센터 민원·디지털 성범죄물 삭제 등에 도입 추진
개인정보 유출 방지·보안 위험성 유념 등 9가지 요건 담겨

인공지능(AI)과 접목해 행정 서비스를 개선하려는 시도가 늘어나는 가운데 기술을 개발하고 활용할 때 지켜야 할 지자체 가이드라인이 나왔다. 개인정보와 저작권 침해, 보안과 데이터 오용 우려 등이 커진 데 따른 것이다.

서울디지털재단은 ‘시민 AI 일상화’ 프로젝트 중 하나로 ‘서울시 생성형 AI 윤리 가이드라인’을 마련했다고 13일 밝혔다.

지자체 차원에서 생성형 AI에 대한 윤리 규칙을 만든 것은 이번이 처음이다. 가이드라인의 목적은 민간기업에 대한 규제가 아니라 기술을 활용하는 이해당사자가 자율적으로 고려할 수 있는 규범을 제시하는 것이다.

‘챗GPT’를 비롯한 생성형 AI 챗봇 서비스 열풍이 불면서 지자체에서도 행정정보를 활용해 각종 서비스의 효율성을 높이는 방식을 고민 중이기 때문이다.

서울시와 자치구들은 ‘120다산콜센터’ 등 민원 대응에 도입을 검토하고 있다. 디지털 성범죄물을 AI가 찾아내 삭제하는 기술을 고도화하기 위한 기계학습이나 지하철에서 이상행동을 탐지해 추적하는 기술 등에도 생성형 AI 활용이 추진되고 있다.

재단 측은 다량의 데이터를 바탕으로 이용자의 의도에 따라 결과를 내놓는 생성형 AI 특성과 도시경쟁력을 확보하고 삶의 질을 높인다는 서울시 정책의 방향성 등을 기반으로 연구했다고 설명했다. 이를 통해 이용자는 물론 운영자·개발자가 지켜야 할 윤리적 준수사항을 가이드라인에 담았다.

서울시 가이드라인은 생성형 AI가 행정에 활용될 때 이용자에 따라 새로운 위험 요인이 발생한다는 점에서 ‘이용자를 중심’으로 한 윤리 기준을 강조했다. AI 기술의 잠재력만큼이나 위험성도 크기 때문에 이에 대한 예방도 주효한 윤리적 기준으로 삼았다. 범죄와 환경오염 등 도시 문제를 해결하는 데 생성형 AI가 지속 가능성을 갖기 위해서라도 윤리성을 담보해야 한다는 원칙도 넣었다.

이 같은 3가지 기본원칙을 바탕으로 9대 핵심 요건을 세분화했다. 우선 이용자는 생성형 AI가 허위 정보를 답변했는지 검증할 수 있는 역량과 악의적 활용에 대한 책임성을 가져야 한다. 개인정보 유출을 방지하는 등 데이터에 대한 권리와 함께 책임도 따른다. 저작권을 침해하거나 자료를 오용·편향해 활용하지 않도록 사용 가능성을 확보하고, AI 학습 데이터 안전성을 마련해야 한다.

탄소배출을 고려한 생태적 지속 가능성과 사회적 문제를 일으키지 않도록 공공성을 지킬 것도 요구된다. AI가 문제점을 가질 수 있다는 것을 인식하고 보안의 위험성에 유념하는 것도 필수다.

강요식 서울디지털재단 이사장은 “생성형 AI가 보급되면서 가짜뉴스와 개인정보 침해 등 위험 우려도 커지는 상황”이라며 “시민의 안전을 위한 선제 대응으로 지자체 첫 생성형 AI 윤리 가이드라인을 발표하게 됐다”고 말했다.

김보미 기자 bomi83@kyunghyang.com