에이전틱·피지컬AI '윤리원칙' 나온다…연성규범으로 AI기본사회 대응(종합)

2020년 기준 전면 개편…AI 통제 이탈 등 최신 위협에도 대응
과기부, 자율실천 연성규범…분야별 기준·실천지침 제시 방침
각계 "방향 제시 반가워…규제화 경계 및 中企 가이드 필요"

(AI 생성 이미지)

[이데일리 한광범 기자] 정부가 스스로 판단하고 실행하는 ‘에이전틱 AI’와 로봇 등 물리적 실체와 결합한 ‘피지컬 AI’ 시대를 맞아, 2020년 제정된 기존 윤리기준을 전면 개편한 새 ‘대한민국 AI 윤리원칙’을 이달 중 최종 제정·공표한다. 최근 해외 AI 모델이 평가 환경을 이탈하거나 외부 시스템에 무단 접근하는 등 통제 범위를 벗어난 위험 사례가 잇따라 발생함에 따라, 개발부터 이용까지 전 과정에 걸친 안전·신뢰 확보가 시급하다는 판단에서다.

정부는 이번 윤리원칙을 법적 규제가 아닌 사회적 합의에 기반한 ‘연성 규범’이자 각 부처·분야별 윤리 기준을 이끌 ‘상위 기준’으로 정립하고, 해설서 발간과 자율점검 지원 등 실천 체계를 본격 구축하기로 했다.

과학기술정보통신부와 정보통신정책연구원(KISDI)은 14일 서울 중구 프레지던트호텔에서 ‘대한민국 AI 윤리원칙’ 대토론회를 열고 각계 의견을 수렴했다. 이번 윤리원칙은 ‘AI 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)’ 제27조에 따라 AI 안전·신뢰성 제고를 위해 수립되는 자율 규범이다.

개편된 윤리원칙은 ‘인간의 존엄성’, ‘사회의 공공선’, ‘인류의 지속가능성’이라는 3대 가치를 핵심으로 삼고, 이에 따른 7대 원칙으로 △인간중심성 △프라이버시 보호 △공정성·포용성 △책임성 △안전성 △신뢰성 △투명성을 제시했다. 정부는 지난 5월 1차 초안 공개 이후 총 116건의 서면 의견을 받아 수정안을 만들었다.

학계·시민사회 “규제 아닌 실행자·나침반 역할…소수자 목소리 담아야”

이상욱 한양대 교수는 “AI 기술이 빠르게 변화하는 상황에서 AI 개발·활용 과정의 판단이 한층 복잡해지고 있다”며 “윤리원칙이 혁신을 제약하는 요소가 아니라 다양한 고려사항을 함께 살펴 바람직한 AI 개발·활용을 돕고(Ethics as Helper) 이를 실제로 가능하게 하는 실행자로서의 윤리(Ethics as Enabler) 역할을 해야 한다”고 강조했다. 이 교수는 이어 “국제적으로 합의된 기준을 적극 도입해 제도의 예측 가능성을 높이는 것이 산업 효율성과 윤리적 정합성을 동시에 확보하는 길”이라고 설명했다.

변순용 서울교대 교수는 “AI가 사회의 기본 인프라가 된 만큼 AI를 위험하고 조심해야 하는 대상으로 보는 인식에서 벗어날 필요가 있다”며 “윤리는 명확한 지침이라기보다 우리가 가야 할 방향을 알려주는 나침반 역할을 한다”며, 향후 기술 변화 속도에 맞춘 신속한 업데이트 필요성을 제기했다.

14일 서울 중구 프레지던트호텔에서 열린 '대한민국 AI 윤리원칙' 대토론회에서 참석자들이 토론을 하고 있다. (사진=한광범 기자)

시민사회 측 홍윤희 사단법인 무의 이사장은 “AI의 개발과 활용 과정에서 다양한 시민이 참여할 수 있어야 하며, 특히 기존의 수혜자 중심 접근에서 벗어나 시민들이 권리를 가진 주체로 보고 접근해야 한다”고 말했다. 홍 이사장은 특히 “소수자 접근성 향상과 편향 예방을 위해 현장의 목소리가 담긴 공익 데이터 수집 및 지속적인 정부 지원 체계 조성이 시급하다”고 덧붙였다.

윤명 소비자시민모임 사무총장은 “핵심 가치에 인간 개인, 사회 공공선, 미래 지속가능성을 모두 담아 장기적 안목으로 진일보했다”고 평가하며 “윤리원칙이 실질적으로 작동하도록 소비자·기업·정부가 함께 논의하는 협력 포럼 등이 지속적으로 만들어져야 한다”고 지적했다.

산업계 “윤리 권고, 법적 의무와 혼동 말아야”…과기부 “분야별 상위 기준 제시”

산업계에서는 윤리적 권고가 규제화되는 것을 경계하는 목소리가 나왔다. 김경훈 카카오 AI 세이프티 리더는 “윤리적 권고와 법적 의무가 혼동되지 않도록 할 필요가 있다”며 “투명성 항목 중 학습 데이터 공개에 관한 내용은 국제적 논쟁이 있는 만큼 윤리원칙 반영에 신중해야 한다”고 제언했다.

김현주 한국AI·소프트웨어산업협회 본부장은 “에이전트형 AI 등 새로운 기술이 등장하는 상황에서 윤리의 역할이 중요하다”며 “중소·스타트업도 현장에서 쉽게 따라갈 수 있는 가이드라인 조성이 필요하다”고 밝혔다.

이진수 과기정통부 AI정책관은 “윤리원칙은 강제적 규제가 아니라 사회가 함께 합의하고 실천하는 자율적 연성 규범”이라며 “기업 대상 의무 부과를 넘어 개발자·사업자·시민·정부 등 모든 주체의 역할을 명시해 AI 위기를 함께 풀어가는 토대를 만들었다”고 설명했다.

그는 이어 “교육, 공공, 행정, 경찰 등 다양한 분야에서 이번 윤리원칙을 상위 기준 삼아 정합성 있는 작업이 이뤄질 것”이라며 “제정에 머물지 않고 해설서 발간, 윤리 교육, 산업계 자율점검 지원 등 현장 실천 체계를 본격 추진하겠다”고 강조했다.

과기정통부는 이번 공개토론회에서 제시된 의견을 종합적으로 검토하여 윤리원칙을 보완해 이달 중으로 제정·공표할 예정이다.

김경만 과기정통부 AI정책실장은 “대한민국 AI 윤리원칙은 AI 기본사회를 위해 우리 모두가 함께 지켜나가야 할 기준으로, 다양한 사회구성원의 목소리를 담기 위해 노력하고 있다”며 “이번 토론회에서 제기된 의견까지 충실히 반영해 윤리원칙을 제정하고, 향후 정부·기업·시민 등 모든 주체가 각자의 위치에서 이를 실천해 나갈 수 있도록 적극 뒷받침 하겠다”고 밝혔다.

한광범 (totoro@edaily.co.kr)