과기정통부, 안전한 AI 활용 위한 '국가AI 안전 생태계 조성계획' 수립한다

AI 안전·신뢰 확보를 위한 산·학·연 전문가 간담회가 23일 경기 성남시 인공지능안전연구소에서 열렸다. 배경훈 부총리 겸 과학기술정보통신부 장관이 딥페이크 탐지 시연을 살펴보고 있다. 이동근기자 foto@etnews.com

과학기술정보통신부가 국내 산업 현장과 국민 일상생활에서 안전한 인공지능(AI) 활용을 위한 '국가AI 안전 생태계 조성 종합계획(가칭)'을 마련한다.

배경훈 부총리 겸 과기정통부 장관은 23일 성남 판교 인공지능안전연구소에서 “국민이 안심하고 사용할 수 있는 AI가 'AI 공존사회'의 첫걸음”이라며 이같이 밝혔다.

과기정통부는 AI 안전이 모든 산업과 국민 생활에 녹아들 수 있게 관계부처, AI안전연구소 등 유관기관과 모두가 공감할 수 있는 종합계획을 연내 수립한다는 방침이다.

최근 AI를 활용해 사람 음성·얼굴을 합성하거나 조작하는 딥페이크를 악용한 피해는 물론, 다가올 범용 AI(AGI)·AI 에이전트 시대에 미처 예상하지 못한 새로운 유형의 피해 등에 대응하고 대비하기 위한 차원이다.

배 부총리는 종합계획 수립에 앞서 AI 안전 확보 기술을 확인하고 정책 방향을 논의하기 위해 이날 AI안전연구소를 방문했다. 간담회를 열고 산·학·연 전문가 15명과 AI의 지속 가능한 혁신 과정에 안전과 신뢰의 균형을 갖추면서 건전한 AI 생태계를 조성하기 위한 방안을 논의했다.

김명주 AI안전연구소 소장은 “AI 에이전트 시대가 도래하면 AI의 자율 의사결정 등에 따라 위험도 자동으로 발생할 수 있다”며 “사전 평가와 검증을 통한 AI 안전 확보가 이뤄질 수 있도록 기술과 제도 마련이 필요하다”고 말했다.

AI안전연구소는 대내외 위험 등을 고려, AI 안전 제도를 수립하고 글로벌 협력을 통해 AI안전 거버넌스로 자리매김할 계획이다. AI 안전 평가와 기술 개발도 병행한다.

손지윤 네이버 전무는 “딥페이크 탐지 등 AI안전연구소가 개발한 기술은 기업에서 테스트하고 검토할 계기가 된다는 점에서 긍정적”이라면서도 “현장 적용을 위해 속도감 있는 기술개발과 연구, 확산이 필요하다”고 주문했다.

이상호 카카오 성과리더는 “AI 생성물에 인비저블한 워터마크 도입을 고려해야 한다”며 “눈으로 식별 가능한 워터마크는 얼마든지 편집이 가능해 삭제할 수 없는 식별기술을 마련해야 한다”고 강조했다.

배순민 KT 상무는 “기업 내 AI 기술 적용과 서비스 출시 전 안전성·신뢰성 검증이 이뤄져야 한다”며 “정부 차원 제도라면 펀더멘털한 기술을 빠르게 제시하고 낮은 비용으로 사용할 수 있게 해야 한다”고 조언했다.

김민재 NC AI 최고기술책임자(CTO)는 “교육·콘텐츠·산업 등 버티컬 AI 분야별 안전과 신뢰 검증이 이뤄지면 훨씬 효율적인 평가와 제도 운영이 가능할 것”이라고 제안했다.

배 부총리는 정부 차원 AI 안전 생태계 조성에 필요한 지원을 다하겠다며 연구소 조직 확대를 시사했다.

박종진 기자 truth@etnews.com