Avaliação da interpretabilidade de modelos por meio da clusterização de explicações no contexto da predição de evasão no ensino superior - Carvalho, Cássio S.; Mattos, Júlio C. B.; Aguiar, Marilton S. (Anais do Simpósio Brasileiro de Informática na Educação (SBIE), 2023)
Este trabalho propõe investigar aspectos de interpretabilidade de modelos no contexto da mineração de dados educacionais, especificamente para o problema da evasão no ensino superior. Modelos de predição são treinados e então explicados com LIME. Explicações são analisadas utilizando aprendizado não supervisionado, e é proposto um método de predição baseado em explicações centrais. O uso combinado das predições do modelo com as predições pelas explicações permite analisar aspectos de desempenho e qualidade das explicações. Apresenta-se uma métrica de interpretabilidade. Resultados indicam que modelos com performance de desempenho similar podem apresentar diferentes características quanto a métricas de interpretabilidade.