'위험한 AI' 걸러내는 원천기술 개발·영향평가 추진된다
정부가 인공지능(AI) 서비스의 안전성과 신뢰성을 확보하기 위해 AI 스스로 편향성을 제거하는 원천 기술 개발에 나선다. '고위험 인공지능'을 걸러내기 위한 인공지능 영향평가도 실시한다.
과학기술정보통신부는 13일 오후 서울 중구 서울중앙우체국에서 열린 대통령 직속 4차산업혁명위원회 전체회의에서 이같은 내용이 담긴 '신뢰할 수 있는 인공지능 실현전략'(이하 '실현전략')을 발표했다. 혐오표현 등이 문제가 됐던 AI 챗봇 '이루다' 사태가 재발하지 않도록 하고, 누구나 신뢰할 수 있는 '사람 중심 인공지능'을 실현하기 위한 정책이다.
이번 실현전략은 지난해 12월 정부가 발표한 '인공지능 윤리기준'의 실천 방안을 구체화하기 위한 스타트업 등 민간에 대한 재정·기술 지원과 인공지능이 국민 생활에 미치는 영향을 평가하는 것이 골자다. 특히 유럽연합(EU)이 지난달 제안한 '인공지능 법안'을 참고해 '고위험 인공지능'을 규제하는 내용이 담겼다.
고위험 인공지능 서비스에 대해서는 제공 전 이용자 고지 의무를 인공지능 사업자에게 부여할 계획이다. 장기적으로 이용자들의 '이용 거부권', '결과 설명 요구권', '이의 제기권' 등을 제도화하려는 것이다. 이는 세계 최초로 제안된 인공지능 법규인 EU의 '인공지능 법안'에 담기기도 했다. 향후 국내 AI 기업들이 유럽 진출시 차질이 없도록 국내 인공지능 규제도 EU 수준으로 끌어올린다는 취지다.
정부는 인공지능 학습용 데이터의 신뢰성도 강화한다. 민관이 공통적으로 준수해야 할 학습용 데이터 신뢰 표준 기준을 마련하기 위해 민간과 머리를 맞댄다. 디지털 뉴딜로 추진되는 '데이터 댐' 구축 전 과정에서도 저작권이나 개인정보보호 등 법·제도 준수 여부를 검토해 데이터 품질을 높일 방침이다.
최기영 과기정통부 장관은 "최근 이루다 챗봇 사건이 우리 사회가 인공지능의 신뢰성에 대해 어떻게 대처해야 하는지 많은 숙제를 안기는 계기가 됐다고 생각한다"면서 "기업·연구자 등이 인공지능 제품·서비스 개발 과정에서 혼란을 겪거나 이로 인해 국민이 피해 보지 않도록 인공지능 신뢰 확보 기준을 명확화하겠다"고 말했다.
<저작권자 ⓒ '돈이 보이는 리얼타임 뉴스' 머니투데이, 무단전재 및 재배포 금지>
Copyright © 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지
- 박신영 사고 당시 블랙박스 영상 공개…충돌 후 수십미터 이동 - 머니투데이
- 한예슬 "남자친구를 소개합니다" 깜짝 고백…훈남 사진도 공개 - 머니투데이
- "아버지가 망치 들고 박수홍 집 찾아가 두드렸다"…친형 주장 - 머니투데이
- [단독] '71억 세입자'는 한성수 대표…보아 매니저 출신, 작년 940억 대박 - 머니투데이
- 안선영, 군살 하나 없는 수영복 뒤태…"46세 비주얼 맞아?" - 머니투데이
- '이혼' 선우은숙 "피로감 안겨 죄송"…눈물로 '동치미' 하차 발표 - 머니투데이
- "이러니까 연예인도 탐내지"…아빠의 로망 등극한 볼보 XC90[시승기] - 머니투데이
- [속보] 1122회 로또 1등 당첨번호 '3·6·21·30·34·35' - 머니투데이
- 승려 차림 뉴진스님 공연인데 "종교 빼라"…싱가포르 공연 결국 취소 - 머니투데이
- 美-사우디, 관계 개선 속도…트럼프 재선 시 탄력 - 머니투데이