SHAP-Driven Explicability of CNN-Based Computer-Aided Diagnosis for Malaria - Santos, Matheus Silva dos; Cunha, Fagner; Giusti, Rafael; Colonna, Juan Gabriel (Anais do Encontro Nacional de Inteligência Artificial e Computacional (ENIAC), 2025)
Redes Neurais Convolucionais (CNNs) têm grande potencial para classificação de imagens médicas, mas sua adoção clínica depende da confiabilidade dos modelos. Neste estudo, utilizamos Shapley Additive Explanations (SHAP) para explicar um sistema de CAD (Computer-Aided Diagnosis) baseado em CNN para diagnóstico de malária em imagens de microscopia. Aplicamos o Gradient Explainer para destacar as regiões de pixel mais relevantes para as previsões do CAD. Ao oferecer explicações transparentes em nível de pixel, esta abordagem capacita profissionais de saúde a compreenderem as decisões do sistema e fortalece a confiança no diagnóstico automatizado de malária.