Interpretabilidade e Justiça Algorítmica: Avançando na Transparência de Modelos Preditivos de Evasão Escolar - Carvalho, Cássio S.; Mattos, Júlio C. B.; Aguiar, Marilton S. (Anais do Simpósio Brasileiro de Informática na Educação (SBIE); 2024: Anais do XXXV Simpósio Brasileiro de Informática na Educação, 2024)
Com a onipresença da Inteligência Artificial (IA), surgem preocupações sobre a transparência dos modelos e a introdução de vieses. Este estudo examina a relação entre interpretabilidade e justiça algorítmica em modelos preditivos de evasão escolar precoce. É apresentada uma evolução do método de clusterização de explicações LIME, analisando resultados com justiça em atributos sensíveis como gênero, raça, cota e origem escolar. Os achados mostram que a métrica de interpretabilidade "agreement" pode se relacionar com a variação na justiça algorítmica, identificando regiões com desempenho e justiça variados. A análise ajuda a ajustar modelos de IA para melhorar a sua transparência em contextos educacionais.