"AI 혁신, 인간·사회 신뢰할 수 있는 방향으로"…윤리원칙 초안 공개

3대 가치·6대 원칙을 통해 AI 개발·이용의 기본 방향 제시

과학기술정보통신부 /뉴스1

(서울=뉴스1) 나연준 기자 = 정부가 인공지능(AI) 시대 공통의 판단 기준을 제공하는 '인공지능 윤리원칙' 초안을 공개했다. "AI의 혁신과 활용은 인간과 사회가 신뢰할 수 있는 방향으로 이루어져야 한다"는 메시지가 중심이 됐다.

과학기술정보통신부와 정보통신정책연구원은 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법' 시행과 변화한 AI 환경을 반영한 '인공지능 윤리원칙' 초안을 마련하고, 29일부터 공개 의견수렴을 진행한다고 28일 밝혔다.

'인공지능 윤리원칙'은 사람이 중심이 되는 인공지능 구현을 위해 모든 사회구성원이 AI 개발·활용 전 과정에서 참고하고 실천해 나가기 위한 기본적이고 포괄적인 원칙이다. 다양한 AI 쟁점이 발생했을 때 사회 전체가 함께 참고할 수 있는 공통의 판단 기준을 제공하는 데 의미가 있고, 특정 기술이나 분야의 개별 쟁점에 대한 세부 해법은 후속 지침과 분야별 기준 등을 통해 구체화 될 수 있다.

과기정통부와 정보통신정책연구원은 2025년 12월부터 4월까지 관련 국내외 사례를 조사‧분석하고, AI 기술, 법·제도, 교육, 철학 등 분야별 전문가로 구성된 자문단을 운영하여 윤리원칙 초안을 마련했다. 또한 윤리원칙이 선언적 기준에 머무르지 않고 현장에서 참고 가능한 기준으로 기능할 수 있도록 산업계 의견도 수렴했다.

윤리원칙 초안은 AI 개발·이용 과정에서 지향해야 할 규범적 방향으로 3대 가치를, 이를 실현하기 위한 기준으로 6대 원칙을 제시했다.

3대 가치로는 △인간의 존엄성 △사회의 공공선 △기술의 신뢰성을, 6대 원칙으로는 △인간의 자율성 △프라이버시 △공정성·포용성 △지속가능성 △안전성 △투명성 등을 제시했다.

'인공지능 윤리원칙'은 과기정통부와 정보통신정책연구원이 운영하는 '인공지능 윤리 소통채널' 누리집에서 확인할 수 있다.

윤리원칙 초안에 대한 의견은 29일부터 7월 8일까지 누리집 내 의견수렴 창구를 통해 제출할 수 있다. 과기정통부는 해당 기간 동안 산업계, 시민사회, 관계부처, 학계 등으로부터 의견을 수렴할 예정이다.

류제명 과기정통부 제2차관은 "인공지능 시대의 주도권은 기술력뿐만 아니라, 그 기술을 얼마나 투명하고 안전하게 관리할 수 있느냐에 달려 있다"며 "새롭게 정립되는 윤리원칙이 사회적 수용성을 확보하고 글로벌 규범의 기준선으로 자리 잡을 수 있도록, 폭넓고 실질적인 의견수렴을 거쳐 최종안을 완성하겠다"고 말했다.

한편 인공지능기본법은 AI 산업 육성과 신뢰 기반 조성을 위한 국가 정책 방향, 안전성 확보, 산업 지원 근거 등을 담은 AI 분야 기본 법제다. 지난해 12월 국회를 통과한 개정안은 공공분야 AI 도입 활성화와 AI 취약계층 접근성 강화를 주요 내용으로 담았다.

과기정통부는 지난 21일 공공조달, AI취약계층 지원, AI연구소 설립 절차 등을 구체화한 시행령 개정안을 입법 예고했다.

yjra@news1.kr