IBM 부사장 "신뢰받는 AI 만들려면 편견 없도록 계속 관리해야"
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
"인공지능(AI)의 신뢰도를 확보하려면 AI가 편견을 학습하지 않도록 사람이 계속 관리하는 것이 중요합니다."
도브린 부사장은 "비즈니스 분야에서 AI는 사람이 결정해야 하는 것을 예측하고 보완하는 역할을 맡는데, 그러려면 AI의 예측을 사람이 신뢰할 수 있어야 한다"며 "비즈니스 AI는 결국 얼마나 신뢰할 수 있느냐로 판가름 난다"고 말했다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
(서울=연합뉴스) 이효석 기자 = "인공지능(AI)의 신뢰도를 확보하려면 AI가 편견을 학습하지 않도록 사람이 계속 관리하는 것이 중요합니다."
IBM의 세스 도브린 부사장은 23일 국내 취재진과 온라인 간담회에서 이렇게 말했다.
IBM은 최근 AI 챗봇 '이루다' 사태로 국내에 AI 윤리라는 화두가 던져진 상황에서 IBM이 '신뢰할 수 있는(Trusted) AI'를 만들고자 어떤 노력을 하는지 공유하려고 간담회를 열었다.
도브린 부사장은 "비즈니스 분야에서 AI는 사람이 결정해야 하는 것을 예측하고 보완하는 역할을 맡는데, 그러려면 AI의 예측을 사람이 신뢰할 수 있어야 한다"며 "비즈니스 AI는 결국 얼마나 신뢰할 수 있느냐로 판가름 난다"고 말했다.
이어 "'신뢰'라는 문제는 AI 모델을 투명하게 검증할 수 있느냐는 것"이라며 "(개발사는) AI에 내재한 편견을 감지할 능력, 위험을 인지할 능력, 편견을 개선해 더 정확한 결과를 도출할 능력이 필요하다"고 강조했다.
도브린 부사장은 신뢰할 수 있는 AI라면 개방적이어야 하고, 공정하고 편견이 없어야 하고, 비즈니스와 윤리를 잘 이해해야 하고, 데이터를 관리할 수 있어야 한다고 말했다.
IBM은 이를 위해 'AI는 인간을 대체하는 것이 아니라 인간의 지능을 보완하기 위한 것', '데이터와 통찰의 소유권은 창작자에게 있다', '새로운 기술과 AI 시스템은 반드시 투명하고 설명 가능해야 한다' 등의 원칙을 세우고 있다고 한다.
도브린 부사장은 "편견이라는 것은 그 기준이 국가나 업종에 따라 다양할 수 있다"며 "(개발사는) AI의 목적과 맥락에 맞게 편견 제거 작업을 할 수 있어야 한다"고 말했다.
그러면서 "개발 과정뿐 아니라 서비스를 운영할 때도 편견을 지속해서 감시하고 제거할 수 있어야 한다"며 "AI 전체 과정에서 사람이 계속 개입하고 주시하는 게 중요하다"고 거듭 강조했다.
도브린 부사장은 IBM의 AI 전략 부문 최고 데이터 책임자(Chief Data Officer)다. 2016년 11월 IBM에 합류해 클라우드 및 AI 소프트웨어의 데이터 및 AI 혁신을 주도하고 있다.
hyo@yna.co.kr
- ☞ 추신수 KBO 온다…신세계와 연봉 27억 입단 계약
- ☞ '학폭의혹' 조병규 "삶에 환멸…해서는 안될 생각 떨쳐"
- ☞ "7살때 성추행…다리 로션도 못 발라" 프로골퍼의 고백
- ☞ "미셸위 팬티에 파파라치 열광" 전 시장 성희롱 '역풍'
- ☞ "뭉크 '절규'에 적힌 한 문장…미스터리 풀렸다"
- ☞ 불타는 자동차서 남친 구하려다 전신화상 입은 전직 가수
- ☞ '부창부수' 마약밀매·땅굴탈옥 도운 '마약왕' 부인
- ☞ 근무 중 애정행각 남녀 경찰간부 '초유의 불륜파면'
- ☞ 모텔에 또래 감금하고 뜨거운 물 부으며 돈 뜯은 10대들
- ☞ 금토극 블랙홀 된 '펜트하우스2'…다 집어삼켰다
▶연합뉴스 앱 지금 바로 다운받기~
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지
- "사람 죽였다" 경찰에 자수한 뒤 숨진 30대 남성 | 연합뉴스
- 캐나다 최악 부녀자 연쇄살인마, 종신형 복역중 피습 사망 | 연합뉴스
- '1.3조원대 재산분할' 최태원, 확정되면 하루 이자 1.9억원 | 연합뉴스
- [OK!제보] "여자애라 머리 때려"…유명 고깃집 사장의 폭행과 협박 | 연합뉴스
- 놀이터 미끄럼틀에 가위 꽂은 10대 검거…"장난삼아"(종합2보) | 연합뉴스
- '개인파산' 홍록기 소유 오피스텔 이어 아파트도 경매 나와 | 연합뉴스
- 美 배우, 헤어진 여자친구 찾아가 흉기로 찌른 혐의로 기소 | 연합뉴스
- "졸리-피트 딸, 성인 되자 개명 신청…성 '피트' 빼달라" | 연합뉴스
- '파경설' 제니퍼 로페즈, 북미 콘서트 전면 취소…"가족과 휴식" | 연합뉴스
- 84년간 연체된 코난 도일 소설 핀란드 도서관에 지각 반납 | 연합뉴스