KAIST XAI Tutorial 2025 | Fast and Faithful Explanations | Youngjin Park (SAIL, KAIST)

This presentation introduces XAI acceleration method for real-time explanation of black-box ML/AI models in financial regulatory environments. While model-agnostic methods such as SHAP and LIME are widely used for complex black-box models in industry, they suffer from computational costs that scale with the number of baselines. Existing acceleration approaches lack theoretical grounding, relying on arbitrary statistical values (e.g., zero, mean) as baselines or depending on additional complex learable models. In this work, we formulate baseline selection as a Column Subset Selection Problem (CSSP) and systematically identify informative baselines through SVD-guided Rank-Revealing QR decomposition. Furthermore, we reduce inference-time computational costs via cluster-based precomputation, demonstrating practical applicability in regulatory environments that demand real-time explanations. 본 발표에서는 금융 규제 환경에서 black-box ML/AI 모델의 실시간 설명을 위한 XAI 가속화 기법을 소개합니다. 산업 현장의 복잡한 앙상블 모델에는 model-agnostic 방법인 SHAP, LIME이 주로 사용되지만, 기준점(baseline) 수에 비례하여 계산 비용이 증가하는 한계가 있습니다. 기존 가속화 연구들은 기준점을 임의의 통계값(예: 0, 평균값)을 사용하거나 추가 복잡한 모델에 의존하여 이론적 근거가 부족합니다. 본 연구에서는 기준점 선택을 Column Subset Selection Problem(CSSP)으로 수식화하고, SVD-guided Rank-Revealing QR 분해로 정보량이 높은 기준점을 체계적으로 선별합니다. 또한 클러스터 기반 사전 계산을 통해 추론 시점의 계산 비용을 절감하여, 실시간 설명이 요구되는 규제 환경에서의 실용성을 보여줍니다.