ETRI, '설명 가능한 AI' 개발·국제표준 승인

국내에서 개발된 '설명 가능한 의사결정 지원 인공지능(AI)' 기술이 국제표준으로 승인됐다.

한국전자통신연구원(ETRI)은 설명 가능한 의사결정 지원 AI를 개발한 데 이어 해당 기술의 시스템 구조와 요구사항을 담은 국제표준을 국제전기통신연합(ITU)에서 승인받았다고 12일 밝혔다.

승인받은 국제표준은 국제전기통신연합 전기통신표준화부문(ITU-T)의 F.748.59 '인간-기계 상호작용 기반 설명 가능한 의사결정 지원 시스템의 프레임워크와 요구사항'이다.

ETRI 연구진이 설명 가능한 의사결정지원 AI 기술 관련 회의를 진행하고 있다. 한국전자통신연구원

일반적으로 생성형 AI는 사용자의 질문에 신속하게 답변하지만, 답변하는 데 활용한 근거와 결과의 신뢰성을 충분히 설명하지는 못했다. 같은 이유로 의료·법률·금융·행정 등 결과에 대한 책임과 신뢰가 뒷받침돼야 하는 분야에서는 답변과 함께 AI의 판단 과정을 설명하는 것이 필수가 된다.

ETRI가 개발한 설명 가능한 의사결정 지원 AI는 전문지식을 토대로 추론하고, 판단 이유를 설명하는 동시에 생성 결과까지 검증할 수 있다. 여기에 더해진 국제표준 승인은 결과적으로 설명 가능한 의사결정 지원 AI 시스템의 국제기준을 마련했다는 점에서 의미를 갖는다.

승인된 국제표준은 AI가 단순히 "답은 이것입니다"라고 제시하는 것에 그치지 않고, 어떤 근거와 이유로 답을 내놨는지 그리고 추가 확인이 필요한지 여부 등을 AI가 설명할 수 있도록 시스템의 기본 구조와 요구사항을 정의한다.

특히 전문지식 기반의 추론과 판단 근거 및 분석 내용을 담은 보고서를 제공하고, 추가로 확인이 필요한 정보의 식별 및 사용자 피드백 반영, 변화하는 전문지식의 지속적인 업데이트, 텍스트·표·이미지·도식 등 다양한 형태의 정보 활용 기능을 포괄적으로 담았다.

ETRI는 국제표준이 특정 AI 모델과 제품에 한정되지 않고, 향후 기업과 공공기관이 설명 가능한 AI 서비스를 설계할 때 활용할 수 있는 공통기준이 될 것으로 내다본다.

실제 최근 시행된 AI 기본법은 AI에 답변 결과를 도출한 기준 및 판단과정 설명을 요구한다. 이를 고려할 때 기업과 공공기관이 AI 기본법에서 요구되는 설명 의무를 이행하는 데 국제표준이 중요한 기술적 기준으로 활용될 수 있을 것이라는 게 ETRI의 설명이다.

이용주 ETRI 시각지능연구실장은 "범용 생성형 AI가 사용자의 질문에 답을 하는 데 강점을 보인다"며 "이와 달리 ETRI의 설명 가능한 의사결정 지원 AI는 전문가가 실제 업무에서 결과를 직접 검토한 후 책임 있게 활용할 근거와 검증 정보를 동시 제공하는 데 초점이 맞춰졌다"고 설명했다.

배경만 ETRI 시각지능연구실 박사(과제책임자)는 "국제표준은 설명 가능한 AI가 갖춰야 할 공통 구조와 요구사항을 국제적으로 적용할 수 있게 한다"며 "앞으로 기업과 공공기관이 신뢰할 수 있는 AI 서비스를 구축하고, AI 기본법에서 요구하는 설명 의무를 이행하는 데도 중요한 기준이 될 것"이라고 말했다.

대전=정일웅 기자 jiw3061@asiae.co.kr