유엔, 韓주도 AI시대 인권규범 결의안 채택

인권침해·혐오 등 방지 원칙 포함

한국이 주도하는 인공지능(AI) 시대 국제사회가 지켜야 할 인권 보호 등 원칙을 담은 결의안이 유엔 인권이사회에서 채택됐다.

유엔 인권이사회는 14일(현지시간) 유엔 제네바 사무소에서 제53차 정례회기 37차 회의를 열고 한국이 주축이 돼 제안한 '신기술과 인권' 결의안을 컨센서스(표결 없이 합의)로 받아들였다.

이번 결의안은 2019년 유엔 인권이사회에서 처음 채택된 같은 명칭의 결의안에 2021년, 올해 두 차례 내용을 보강한 내용을 포함하고 있다. 3차례에 걸쳐 '신기술과 인권' 결의안을 작성하고 논의를 가다듬는 데 한국은 주도적 역할을 수행했다. 특히 이날은 기존 결의안 범위에 없는 AI 시대 인권 원칙을 천명하고 있다.

'신기술과 인권' 결의안은 인터넷과 모바일 소통을 비롯해 디지털 기술이 보편화된 세상에서 기술 혜택은 누리면서도 인권침해, 혐오 등 부작용을 막기 위해 국제사회가 약속할 규범 원칙을 제시하고 있다. 특히 AI 기술이 빠르게 일상에 적용되면서 무분별한 활용으로 인한 부작용 발생이 우려됨에 따라 원칙을 세워야 한다는 의지가 담겼다.

실제로 미국 연방거래위원회(FTC)가 전날 챗GPT가 실존 인물에 대해 거짓되거나 깎아내리는 문장을 만들어 불만이 접수된 사례를 챗GPT 개발사인 오픈AI에 제출하라고 요구하고 챗GPT의 소비자보호법 위반 여부 조사에 착수하기도 했다.

이번 결의안은 AI 기술에 대한 ▲포괄적 접근 ▲인권 기반 접근 ▲ 각 이해관계자를 두루 고려한 접근을 3가지 대원칙으로 삼는다.

결의안에는 AI의 순기능과 부정적 측면이 모두 언급된다. 누구나 쉽게 정보에 접근할 수 있고 이전보다 건강·교육을 비롯한 각종 사회 서비스에 대한 진입장벽을 낮춰 성별이나 나이, 장애 유무, 소득 등에 따른 차별을 막아줄 수 있다는 점이 긍정적 기능으로 거론됐다.

부정적 측면으로는 AI가 사생활 영역에 있는 정보를 추적하거나 임의로 사실과 유사한 허위 이미지를 합성할 가능성, 허위·편향 정보 유통이나 혐오 표현 등으로 사상·표현의 자유를 침해하고 차별·불평등을 강화할 우려도 언급됐다.

AI 기술이 인권에 미칠 영향에 대한 책임 있는 평가가 필요하고, AI를 만들고 활용하는 전 과정에서 각종 차별과 인권침해로부터 보호해야 하며 AI 기술이 투명성과 설명 의무를 지녀야 한다는 내용의 세부안도 담겼다.

AI가 정보를 수집·사용·삭제하는 과정이 국제인권법에 부합되게 이뤄지고 그에 대한 감시 체계가 필요하다는 내용도 원칙에 포함됐다.

이기민 기자 victor.lee@asiae.co.kr