KISTI, 인간과 인공지능의 조화로운 공존 방안은?

‘인공지능 윤리’에 대한 이슈브리프 발간

'인공지능 윤리(AI Ethics): 인간과 인공지능의 조화로운 공존 방안 [사진=KISTI ]

[아이뉴스24 최상국 기자] 한국과학기술정보연구원(원장 김재수, 이하 KISTI)이 '인공지능 윤리(AI Ethics): 인간과 인공지능의 조화로운 공존 방안'에 대한 이슈브리프를 발간했다.

인공지능 전환(AI Transformation, AX) 시대로 진입하면서 AI는 일상생활과 산업 전반에 걸쳐 혁신적인 변화를 가져오고 있다. 하지만 AI 기술의 급격한 발전은 윤리적, 기술적 문제를 동반하며 글로벌 업계 리더와 전문가들이 AI 위험성에 대해 경고하고 있다.

이에 따라 세계 각국 정부와 기업은 AI에 의한 위험과 부작용을 방지하기 위해 AI 윤리 원칙과 법·제도 등을 발표하고 있으며, 우리나라도 AI 윤리·신뢰성 확보를 위한 방안을 마련하기 위해 노력하고 있다.

이번 'KISTI 이슈브리프(제68호)는 AI 윤리와 관련된 이슈를 살펴보고, 인간과 AI가 조화롭게 공존하기 위한 방안을 제안한다.

보고서는 인간과 AI의 윈윈(win-win)을 위해서는 AI 발전과 인간의 책임 사이에서 균형이 요구되며, AI는 인간을 완전히 대체하기보다는 인간의 능력을 향상시키고 인간과 협업할 수 있는 혁신의 조력자로 인식해야 한다고 주장한다.

정책적으로는 AI로 인해 발생할 수 있는 변화와 불확실성을 연구해 미래 AI 사회를 사전에 준비할 수 있도록 시나리오와 대응 정책 수립이 필요하다고 제안한다.

범용인공지능(Artificial General Intelligence, AGI)을 넘어 이제는 인간보다 뛰어난 슈퍼인텔리전스의 등장이 예상되고 있으므로, 인간의 안전을 확보하기 위한 연구가 선행되어야 하며, AI 확산에 따라 발생할 수 있는 이슈를 도출하고, 긍·부정적 시나리오로 나누어 각각에 대한 결과를 예측하고 준비할 수 있는 정책 설계가 필요하다는 지적이다.

또한 책임 있는 AI 사용과 평가를 위해서는 AI 성능과 모델의 위험성을 객관적으로 판단할 수 있는 기준이 마련되어야 하며, AI 발전에 상응하는 기술-윤리 통합 교육과 산업별 맞춤형 AI 윤리 정책도 마련돼야 한다고 제안한다.

최희석 KISTI 정책전략본부장은 “인간과 AI가 조화롭게 공존하기 위해서는 인간의 AI 윤리의식 함양과 더불어, AI 사용과 평가에 관한 기준과 표준화된 체계를 마련해 AI 신뢰성을 확보할 수 있어야 한다”라고 보고서 발간의 배경을 설명했다.

김재수 KISTI 원장은 “KISTI는 AI 전환을 위한 데이터 전략을 전방위적으로 전개하면서 과학기술계를 주축으로 AI 기술의 안전성과 윤리 정립을 위한 생태계를 조성하고 있다”고 밝혔다.

/최상국 기자(skchoi@inews24.com)