SHAP 프레임워크 개발…‘설명 가능한 AI’ 분야 개척[서울포럼 2026]

[이수인 교수는]
의료·금융·산업 분석 등에 활용
AI 모델 해석 표준 기술로 평가

이수인(왼쪽) 워싱턴대 컴퓨터공학과 교수가 연구실에서 연구진과 함께 ‘설명가능한 AI’(XAI) 연구 관련 논의를 하고 있다. 사진 제공=워싱턴대

이수인 미국 워싱턴대 컴퓨터공학과 교수는 ‘설명 가능한 AI(XAI)’ 분야를 개척한 세계적인 석학으로 인공지능(AI)의 의사 결정 과정을 인간이 이해·검증할 수 있도록 하는 연구를 주도하고 있다.

특히 AI 모델의 예측 결과를 설명하는 대표 기술인 ‘샤플리 가산 설명(SHAP) 프레임워크’를 개발해 세계적인 주목을 받았다. SHAP는 게임이론의 샤플리 값 개념을 머신러닝에 적용한 프레임워크다. 현재 의료, 금융, 추천 시스템, 산업 분석 등 AI가 활용되는 거의 모든 분야에서 사용되는 대표적인 XAI 프레임워크로 자리 잡고 있다.

실제 SHAP의 영향력은 학문적 영역을 넘어 산업 현장으로 빠르게 확산되고 있다. 원 논문의 인용 횟수는 이미 9만 회를 넘어섰고 가장 많이 사용되는 버전 중 하나인 트리SHAP는 2020년 AI 분야 국제 학술지 ‘네이처 머신 인텔리전스’ 표지 논문으로 발표된 후 3만 회 이상 인용되며 결정 트리 기반 AI 모델 해석 분야의 사실상 표준 기술로 평가받고 있다.

그는 이러한 연구를 통해 AI 기술의 실제 산업·사회 적용 가능성을 넓혀왔다. 특히 AI를 활용한 질병 원인 분석과 정밀 의료 연구, 의료 AI의 신뢰성 검증 분야에서 세계적인 연구 성과를 내며 AI와 바이오·헬스케어 융합 연구를 선도하고 있다. 이러한 공로를 인정받아 2023년에는 한국 공학계 최고 권위인 삼성호암상 공학상을 수상하기도 했다. 삼성호암상 제정 이후 여성 연구자가 공학상을 수상한 것은 이 교수가 처음이다.

이외에도 국제컴퓨터생물학회(ISCB) 혁신상과 미국국립과학재단(NSF) 커리어상 등을 수상하며 글로벌 AI 연구계에서도 높은 영향력을 인정받고 있다.

그는 한국과학기술원(KAIST) 전자공학과를 졸업한 뒤 미국 스탠퍼드대에서 전기공학 박사 학위를 받았다. 스탠퍼드대 재학 당시에는 AI 4대 석학 중 한 명으로 꼽히는 앤드루 응 교수의 머신러닝(기계학습) 수업에서 최고 성적을 기록했고 이후 응 교수와 함께 논문 연구도 진행했다. 이후 XAI와 AI 신뢰성 연구에 집중하며 관련 분야를 선도해오고 있다.

노현섭 기자 hit8129@sedaily.com