“정확한 AI만으론 부족, 믿을 수 있는 AI 뜬다”[서울포럼 2026]

■ 이수인 워싱턴대 교수
“의료·금융 등 규제 강한 영역
설명 가능성이 시장 진입 조건”
AI 경쟁의 축 성능→신뢰 전환

“인공지능(AI) 기술이 고도화될수록 경쟁의 중심은 ‘얼마나 정확한 모델을 만드느냐’만이 아니라 ‘얼마나 신뢰할 수 있고 통제 가능한 시스템을 만드느냐’로 이동합니다.”

‘설명 가능한 AI(XAI)’ 분야의 세계적 석학인 이수인(사진) 미국 워싱턴대 컴퓨터공학과 교수는 “XAI는 단순한 기술 옵션이 아니라 AI 제품의 신뢰성과 책임성을 결정하는 핵심 인프라”라며 “특히 의료, 금융, 자율 시스템처럼 규제가 강한 영역에서는 설명 가능성 자체가 시장 진입 조건이 될 것”이라고 진단했다.

이 교수는 12일 서울경제신문과의 인터뷰에서 앞으로 기업 간 경쟁에서 XAI 역량이 점점 중요한 차별화 요소가 될 것으로 내다봤다. 단순한 성능 경쟁을 넘어 ‘설명 가능한 시스템을 얼마나 빠르게 제품화할 수 있는가’가 중요한 경쟁 축으로 떠오를 것이라는 설명이다. XAI는 AI 모델의 의사 결정 과정을 인간이 이해할 수 있도록 설명·해석하는 기술이다. AI 모델이 도출한 결과에 대한 근거를 제시해 투명성과 신뢰도를 높여 사용자가 AI의 판단을 믿고 활용할 수 있도록 돕는다.

그는 “AI가 아무리 정확하더라도 그 결과를 사람이 이해하고 신뢰할 수 없다면 실제 활용으로 이어지기 어렵다”며 “특히 의료와 같은 고위험 분야에서는 AI의 판단 과정이 투명하게 검증될 수 있어야 한다”고 말했다. 이어 “앞으로 AI는 ‘잘 만드는 AI’에서 ‘이해하고 책임질 수 있는 AI’로 진화할 것”이라며 “설명 가능성과 책임성은 선택이 아니라 필수 조건이 될 것”이라고 강조했다. XAI를 단순한 보조 기술이 아닌 핵심 인프라로 봐야 한다는 것이다.

이 교수는 이달 27~28일 서울 중구 신라호텔에서 열리는 ‘서울포럼 2026’에서 특별강연을 통해 AI 다음 단계는 신뢰와 해석 가능성을 기반으로 한 새로운 과학적 인프라 구축이라는 점을 핵심 메시지로 제시할 예정이다. 서울포럼 2026은 ‘지능을 넘어, 산업의 새 엔진으로(New Core, New Industry)’를 주제로 AI 시대의 산업구조 변화와 대응 전략을 논의하는 자리다. ▷기사 4면

노현섭 기자 hit8129@sedaily.com