`AI`로 딥페이크 불법 영상 잡아낸다

행안부, 데이터 분석과제 선정
내년 2월까지 모델 개발 진행

딥페이크. [연합뉴스]

정부가 AI로 딥페이크 불법 영상을 선별하는 것과 같은 사회문제 해결을 위해 데이터 분석에 나선다.

행정안전부는 국민생활과 밀접한 사회문제를 해결하고, 정부 정책결정과 일하는 방식을 개선하기 위해 5개 분야 12건의 데이터 분석과제를 선정해 데이터 분석을 추진한다고 9일 밝혔다. 5개 분야는 국민안전(2개 과제)을 비롯 근로·복지(3개 과제), 국민건강(2개 과제), 국민편의(2개 과제), 일하는 방식 개선(3개 과제)이다.

올해 과제는 중앙부처와 지방자치단체, 공공기관 대상 수요조사와 전문가 평가를 거쳐 국민안전과 근로·복지, 국민건강 등 국민 생활과 밀접한 주제를 고려해 선정했다. 지난 8월부터 사전 준비 과정을 거쳤고, 내년 2월까지 심도 있는 데이터 분석과 AI 모델 개발을 진행한다.

국민안전 분야에서는 '인공지능을 활용한 딥페이크 불법 콘텐츠 분석모델'과 '사업장 굴뚝 대기오염 배출 자동 탐지 지원 모델' 개발이 이뤄진다. 가짜뉴스와 디지털 성범죄 같은 불법 합성 콘텐츠로 인한 피해가 확산 중인 가운데 이를 차단하고 사회적 손실을 최소화하기 위해 동영상의 딥페이크 적용 여부를 분석할 수 있는 모델을 개발한다.

또 약 9억개에 달하는 주요 사업장 굴뚝의 대기오염물질 항목별 측정값과 유량, 온도 등의 데이터를 활용한 탐지 모델을 만든다.

그동안 육안으로 식별하던 대기오염 발생물질 배출 여부를 자동으로 선별하기 위해서다.

근로·복지 분야에서는 '상병 및 요양데이터 등을 활용한 장해등급 예측 분석'과 'AI기반 재해조사 분류 모델' 개발, '에너지 바우처 사용 사각지대 발굴을 위한 빅데이터 분석'을 추진한다.

국민건강 분야에서는 '농작물 병해충 발생 및 위험도 예측'과 '식품안전 사각지대의 체계적 관리를 위한 점검대상 자동 추천 모델', '주요 질병별 의약품 품절 예측 지원모델' 개발이 진행된다. 농작물 병해충 발생 위험도 예측이 이뤄지면 10년간의 병해충 발생 및 피해정보, 작물생육정보, 지역별 온도, 습도, 강우 등을 토대로 기상변화에 따른 병해충 발생 가능성과 그에 따른 위험도를 미리 알 수 있게 된다.

행안부는 그동안 '보이스피싱 음성분석 모델'과 '대중교통 하차승객 인원추정' 등 158종의 데이터를 분석했고, 실제 분석 모델을 보이스피싱 조직 검거에 활용하는 등 국민 불편과 사회이슈를 해결한 바 있다.

세종=송신용기자 ssysong@dt.co.kr