Design propositions for the critical analysis of educational machine learning-based applications using emancipatory pedagogy - Penteado, Bruno Elias (Anais do Simpósio Brasileiro de Informática na Educação (SBIE); 2022: Anais do XXXIII Simpósio Brasileiro de Informática na EducaçãoDO - 10.5753/sbie.2022.225710, 2022)
Na educação, aplicações baseadas em aprendizado de máquina fornecem suporte e insights analíticos a alunos, professores e administradores. No entanto, nem todos nós somos tratados igualmente por essas tecnologias. O viés algorítmico pode refletir em oportunidades desiguais para os indivíduos com base apenas em seus dados demográficos. Seguindo uma abordagem de pesquisa em design science, investigamos múltiplas fontes de viés no pipeline de aprendizado de máquina e usamos a pedagogia emancipatória como teoria kernel para elaborar propostas de design para mitigar esse problema. Correlacionamos as fontes de viés com ações em potencial, fornecendo lentes teóricas para lidar com o viés no desenvolvimento de sistemas educacionais inteligentes. Esses princípios devem fornecer aos pesquisadores uma análise crítica do desenvolvimento de sistemas inteligentes na educação.