KAIST XAI Tutorial 2024 | XAI for Clinical Decision Support | Jihyeon Seong (KAIST)

In the medical field, it is essential not only to achieve high performance in AI models but also to explain the reasons behind their predictions to ensure model reliability. Especially for applying AI in real hospitals, both high performance and the ability to explain disease causes tailored to individual patients are necessary. This session introduces prediction and patient-specific cause-explanation techniques using AI for Acute Kidney Injury (AKI). First, we present the development process of an AKI prediction model for practical clinical application. Next, we introduce explanation algorithms and application examples for explaining the prediction causes of AI models customized for each patient. Through actual clinical application cases, this presentation explores examples of utilizing explainability in the medical field. 메디컬 분야는 AI모델의 우수한 성능 뿐만 아니라, 그 예측의 원인을 설명하여 모델의 신뢰성을 보장하는 것이 중요합니다. 특히, 실제 병원에 AI를 적용하기 위해서는 우수한 성능과 환자별 맞춤으로 질병 원인을 설명하는 기술이 모두 필요합니다. 본 세션에서는 급성 신손상 (AKI) 질병에서 AI를 이용한 예측 및 환자별 맞춤 원인 설명 기술을 소개합니다. 먼저, AKI 예측 모델을 실제 임상 적용을 위한 개발 과정을 소개합니다. 다음으로, 환자별 맞춤으로 AI모델의 예측 원인을 설명하기 위한 설명 알고리즘 및 적용 예시를 소개합니다. 본 발표에서는 실제 임상 적용 사례를 통해 메디컬 분야에서의 설명성 활용 예를 살펴봅니다.