Analysis of Visual Explainers Using Clustering Techniques - Oliveira, Lázaro Raimundo de; Xavier Júnior, João Carlos; Canuto, Anne M. P. (Anais do Encontro Nacional de Inteligência Artificial e Computacional (ENIAC), 2025)
A Inteligência Artificial (IA) tem se tornado cada vez mais presente no cotidiano, ampliando a demanda por métodos que expliquem as decisões tomadas por seus modelos — o que se convencionou chamar de Explainable Artificial Intelligence (XAI). No campo da explicabilidade visual, diversas técnicas e métricas vêm sendo propostas, no entanto, ainda não há consenso sobre como avaliá-las de forma comparativa e confiável. Este trabalho propõe uma nova metodologia para análise de comportamento de explicadores, com base em técnicas de agrupamento (clustering), permitindo avaliar múltiplos explicadores e métricas simultaneamente. Os resultados indicam que o comportamento entre explicadores varia conforme o conjunto de dados e o modelo de explicação utilizado.