ETRI, '설명가능한 의사결정지원 AI' 국제표준 승인

설명가능한 의사결정지원 AI 핵심기술을 개발한 한국전자통신연구원(ETRI) 연구진이 포즈를 취하고 있다. ETRI 제공

[파이낸셜뉴스] 국내 연구진이 인공지능(AI)이 왜 그런 답을 냈는지까지도 설명하는 기술을 개발, 국제표준 승인을 받았다.

한국전자통신연구원(ETRI)은 전문지식을 바탕으로 추론하고, 판단의 이유를 설명하며, 생성 결과까지 검증할 수 있는 설명가능한 의사결정지원 인공지능(AI) 기술을 개발했다고 12일 밝혔다. 이 기술의 시스템 구조와 요구사항을 담은 국제표준은 국제전기통신연합(ITU)에서 승인받았다.

이번에 승인된 국제표준은 국제전기통신연합 전기통신표준화부문(ITU-T)의 F.748.59 '인간-기계 상호작용 기반 설명가능한 의사결정지원 시스템의 프레임워크와 요구사항'이다.

최근 생성형 AI는 다양한 질문에 빠르고 자연스럽게 답변할 수 있지만, 왜 그런 결론을 내렸는지, 어떤 근거를 활용했는지, 결과를 얼마나 신뢰할 수 있는지는 충분히 설명하지 못하는 한계가 있다. 특히 의료, 법률, 금융, 행정과 같이 결과에 대한 책임과 신뢰가 중요한 분야에서는 AI의 판단 과정을 설명하는 기술이 필수적이다.

이번 국제표준은 이러한 요구를 반영해 설명가능한 AI가 갖춰야 할 공통 구조와 핵심 기능을 제시한 국제 기준이다. 국제표준에는 사용자 질문에 대한 결과와 이유 설명, 전문지식 기반 추론, 판단 근거와 분석 내용을 담은 보고서 제공, 추가 확인이 필요한 정보의 식별, 사용자 피드백 반영, 변화하는 전문지식의 지속적인 업데이트, 텍스트뿐 아니라 표·이미지·도식 등 다양한 형태의 정보 활용 기능 등이 포함됐다.

이번 표준은 특정 AI 모델이나 제품에 적용되는 것이 아니라, 앞으로 기업과 공공기관이 설명가능한 AI 서비스를 설계할 때 활용할 수 있는 공통 기준이라는 점에서 의미가 크다는 평가다. 앞으로 기업과 공공기관이 AI 기본법에서 요구하는 설명 의무를 이행하는 데 중요한 기술적 기준으로 활용될 것이라는 기대다.

ETRI 연구진은 국제표준에서 제시한 설명가능한 의사결정지원 AI를 실제 구현하기 위한 핵심 기술도 함께 개발했다. 먼저 설명가능한 분류 기술은 전문문서나 상담 기록 등을 분석해 중요한 상황과 유형을 분류하고, AI가 왜 그렇게 판단했는지를 근거와 함께 제시한다. 멀티모달 기반 자가검증 RAG 기술은 텍스트뿐 아니라 표와 이미지, 도식 등이 포함된 전문문서에서도 필요한 정보를 찾아낸다. 또 검색한 정보가 질문과 실제 관련이 있는지, 생성한 답변이 해당 근거를 충실하게 반영했는지를 AI 스스로 확인하고 검증한다. 생성 결과 사실성 검증 기술은 AI가 작성한 답변이나 보고서가 실제 근거와 일치하는지 자동으로 확인해 사실과 다르거나 신뢰하기 어려운 내용이 발견되면 이를 사용자에게 알려주고, 추가 확인이 필요한 부분도 함께 제시한다.

범용 생성형 AI가 폭넓은 질문에 답하는 데 강점이 있다면, ETRI의 설명가능한 의사결정지원 AI는 전문가가 실제 업무에서 결과를 직접 검토하고 책임 있게 활용할 수 있도록 근거와 검증 정보를 함께 제공하는 데 초점을 맞췄다는 설명이다.

과제책임자인 ETRI 시각지능연구실 배경만 박사도 "AI는 답을 잘 만드는 것만큼 그 답이 어떤 근거에서 나왔는지, 왜 그런 결론을 내렸는지, 잘못된 내용은 없는지를 함께 보여주는 것이 중요하다"며 "이번에 확보한 핵심기술을 바탕으로 전문가가 AI의 결과를 직접 확인하고 책임 있게 활용할 수 있는 설명가능한 의사결정지원 AI 기술을 지속적으로 고도화해 나가겠다"고 밝혔다.

jiany@fnnews.com 연지안 기자