AI 딥페이크 확산에…배경훈 부총리 "'AI 안전 생태계 계획' 연내 마련"
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
배경훈 과기부총리 겸 과학기술정보통신부 장관은 '국가 인공지능(AI) 안전 생태계 조성 종합 계획을 연내 마련하겠다고 오늘(23일) 밝혔습니다.
배 부총리는 오늘 경기 성남시 AI안전연구소를 방문해 AI 안전 확보 기술 현황 등을 점검하고 산·학·연 전문가들과 정부의 정책 방향을 논의하는 간담회를 개최했습니다.
과기정통부는 최근 AI를 활용해 사람의 음성, 얼굴 등 정보를 합성, 조작하는 딥페이크를 악용한 피해가 커지고 다가오는 범용인공지능(AGI), AI 에이전트 시대에는 예상하지 못한 새로운 유형의 피해가 생길 우려가 있다며 AI 안전 생태계 조성 계획 필요성을 설명했습니다.
배 부총리는 "지금도 해킹 이슈가 심각한데 AI가 개입되면 걷잡을 수 없을 것"이라며 "AI를 통한 산업 진흥뿐 아니라 안전한 활용도 고민해야 하는데 논의의 장이 부족하다는 감이 있다"라고 말했습니다.
이어 "몇 년 안에 개인이 AI 에이전트를 하나씩 활용하고, 에이전트끼리 소통하는 시대가 올 것"이라며 "내 아바타와 같은 AI 에이전트가 나를 완전히 왜곡하는 일이 생길 수도 있다"고 내다봤습니다.
배 부총리는 "AI 시대에 AI를 악용한 정보보호 문제가 생기지 않도록 총력을 다하겠다"며 "AI 안전연구소에서 기업이 하기 힘든 연구를 선제적이고 중장기적으로 수행해달라"고 당부했습니다.
간담회에서는 AI 위험 대응을 위한 기술 개발 현황과 딥페이크 방지 기술 등 AI안전 생태계 조성 방안이 논의됐습니다.
행사에는 김명주 AI안전연구소장·손지윤 네이버 AI RM 센터 전무·김유철 LG AI 연구원 전략부문장·김태윤 SK텔레콤 파운데이션 모델 담당·김민재 NC AI 최고기술책임자(CTO)·이승윤 업스테이지 WBL 센터장·이재호 서울시립대 인공지능학과 교수·최대선 숭실대 AI안전성연구센터장 등이 참석했습니다.
이들은 AI 안전 생태계를 조성해 안전하고 신뢰할 수 있는 AI 개발‧활용 환경을 만들어야 한다는 데 공감했습니다.
배 부총리는 "국민이 안심하고 사용할 수 있는 AI는 AI 공존 사회의 첫걸음"이라며 "AI안전이 모든 산업과 국민 생활에 녹아들 수 있도록 과기정통부가 관계부처, 유관기관 등과 함께 종합계획을 연내 마련하겠다"라고 전했습니다.
저작권자 SBS미디어넷 & SBSi 무단전재-재배포 금지
Copyright © SBS Biz. 무단전재 및 재배포 금지.