과기정통부, '제3기 AI 윤리·신뢰성 포럼' 출범…AI 악의적 활용 막는다

제3기 인공지능(AI) 윤리·신뢰성 포럼 출범식 기념사진. 사진 가운데 이상욱 한양대 철학과 교수(포럼 위원장)

과학기술정보통신부가 정보통신정책연구원(KISDI)와 함께 18일 서울 서초구 엘타워에서 '제3기 인공지능(AI) 윤리·신뢰성 포럼' 출범식을 개최했다.

제3기 AI 윤리·신뢰성 포럼은 4일 출범한 AI전략최고위협의회 윤리·안전분과로 운영된다.

이상욱 한양대 철학과 교수가 포럼위원장을 맡고, 학계·산업계·법조계·공공·시민사회·국제기구 등 분야별 전문가 20명이 참여했다.

이번 포럼에선 지난해 정부 AI 윤리사업 핵심과제로 민간전문가 의견수렴을 거쳐 개발한 'AI 윤리기준 실천을 위한 자율점검표(채용분야)', 'AI 윤리영향평가' 프레임워크, AI 윤리교육 교재 등을 공개했다.

이날 포럼에선 국내 AI 윤리·신뢰성 확보를 위한 정책 방향에 관한 종합토론을 진행했다. 앞으로도 격월로 포럼을 운영하며 AI 산업 현장에서의 윤리·신뢰성 확산방안과 생성형 AI의 악의적 활용을 완화·방지하기 위한 정책과제 등을 집중적으로 발굴해나갈 계획이다.

특히 생성형 AI 기술의 급속한 발전과 함께 뮌헨 안보회의 '기만적 AI 사용방지를 위한 기술 합의문' 발표, 유엔총회 'AI 결의안' 채택 등 AI 관련 글로벌 정책 논의를 집중적으로 다뤘다.

엄열 과기정통부 인공지능기반정책관은 “생성형 AI 기술로 촉발된 AI 시대로의 본격적 전환점에서 AI 발전과 공존 가능한 AI의 전제는 윤리와 신뢰”라며 “AI에 대한 사회적 신뢰기반을 만들어 갈 수 있도록 AI 윤리·신뢰성 포럼이 사회적 논의의 구심점 역할을 수행해 주길 기대한다”고 말했다.

김명희 기자 noprint@etnews.com