인공지능 생성물에 워터마크 도입···"AI 신뢰성 높인다"

임보라 앵커>

안전하고 믿을 수 있는 AI 개발을 위해 민관이 머리를 맞댔습니다.

AI로 만든 생성물에 워터마크를 도입하고 분야별 가이드라인도 마련한다는 계획인데요.

김유리 기자가 보도합니다.

김유리 기자>

미국 국방부 청사인 펜타곤 근처에서 검은 연기가 치솟습니다.

테러를 연상케 하는 폭발 현장 사진입니다.

인공지능이 만든 가짜 사진으로 판명 났는데, 이 사진 한 장에 뉴욕 증시가 출렁이는 등 혼란이 빚어졌습니다.

AI의 확산으로 사회적 영향력이 급격히 확대되는 반면, 불법 콘텐츠 생성 등에 악용될 위험도 커진 상황.

지난 9월 발표된 '디지털 권리장전'과 더불어 디지털 심화에 부합하는 새로운 AI 정책 실현이 더욱 중요해졌습니다.

(장소: 25일, 제4차 인공지능 최고위 전략대화)

과기정통부를 비롯한 민·관이 최고위 전략대화를 열고 'AI 윤리·신뢰성 확보 추진계획'을 발표했습니다.

녹취> 이종호 / 과학기술정보통신부 장관

"AI 혜택이 바람직하게 향유되기 위해서는 AI 신뢰성과 안전성을 확보하기 위한 노력이 무엇보다 중요합니다."

우선 생성형 AI, 자율주행 등 분야별 가이드라인을 마련, 확대하고 오는 11월부터는 민간 자율 AI 신뢰성 검증을 추진할 예정입니다.

또 AI 자체가 내포하는 편향성 등 기술적 한계와 오작동 등의 잠재 위험요인 대응을 위한 기술 개발에 4년간 2백20억 원을 투입합니다.

AI 신뢰성 확보를 위해 인공지능이 생성한 결과물에 워터마크 도입을 검토하고, 고위험 영역에 대한 해설서도 마련하기로 했습니다.

이와 함께 사회 전반에 걸친 책임 있는 AI 활용 의식 확산을 위해 인공지능 윤리교육을 강화하고 법제 정비단 등 윤리정책 플랫폼을 운영할 방침입니다.

(영상취재: 한기원 박지원 / 영상편집: 최은석 / 영상그래픽: 손윤지)

KTV 김유리입니다.

( KTV 국민방송 케이블방송, 위성방송 ch164, www.ktv.go.kr )

경제