Analisando a Propagação de Viés de Gênero na Aprendizagem por Transferência Aplicada à Educação
Resumo
A Aprendizagem por Transferência (TL) é uma técnica poderosa para desenvolver modelos preditivos na educação, mas apresenta o risco de propagar vieses algorítmicos. Este trabalho investiga o fenômeno da propagação de viés de gênero ao aplicar a TL em dados de evasão universitária. A metodologia consistiu em treinar um modelo-professor em um domínio com notória disparidade de gênero e transferir seu conhecimento para modelos-aluno em distintas áreas do conhecimento. Os resultados indicam que o viés foi majoritariamente transferido e, em muitos casos, amplificado, aumentando a disparidade de acurácia entre os sexos, embora exceções de mitigação tenham sido observadas. Conclui-se que a TL pode atuar como um vetor de injustiça sistêmica, tornando a auditoria de equidade (fairness) uma etapa pré-requisito e essencial na seleção de modelos pré-treinados para aplicações educacionais.
Palavras-chave:
Inteligência Artificial, Viés de Gênero, Aprendizagem por Transferência, Educação
Referências
Barbosa, T., Freitas, N., Cavalcanti, L., da Conceicao Batista, M., Gouveia, R., and Alves, G. (2024). Construção dinâmica de modelos de learning analytics explicáveis e justos aplicados ao acompanhamento de estudantes de graduação. In Anais do XXXV Simpósio Brasileiro de Informática na Educação, pages 1918–1930, Porto Alegre, RS, Brasil. SBC.
Bergstra, J. and Bengio, Y. (2012). Random search for hyper-parameter optimization. The journal of machine learning research, 13(1):281–305.
Cavalcanti, L., Barros, A., Falcão, T., da Conceicao Batista, M., Cristino, C., and Alves, G. (2024). Avaliando o impacto da mudança do projeto pedagógico de cursos sobre a evasão através da análise de sobrevivência. In Anais do XXXV Simpósio Brasileiro de Informática na Educação, pages 2617–2626, Porto Alegre, RS, Brasil. SBC.
Celiberto Jr, L. A., Matsuura, J. P., De Màntaras, R. L., and Bianchi, R. A. (2010). Using transfer learning to speed-up reinforcement learning: a cased-based approach. In 2010 latin american robotics symposium and intelligent robotics meeting, pages 55–60. IEEE.
Chollet, F. et al. (2015). Keras.
Coston, A., Ramamurthy, K. N., Wei, D., Varshney, K. R., Speakman, S., Mustahsan, Z., and Chakraborty, S. (2019). Fair transfer learning with missing protected attributes. In Proceedings of the 2019 AAAI/ACM Conference on AI, Ethics, and Society, pages 91–98.
Gardner, J., Yu, R., Nguyen, Q., Brooks, C., and Kizilcec, R. (2023). Cross-institutional transfer learning for educational models: Implications for model performance, fairness, and equity. In Proceedings of the 2023 acm conference on fairness, accountability, and transparency, pages 1664–1684.
Gou, J., Yu, B., Maybank, S. J., and Tao, D. (2021). Knowledge distillation: A survey. International journal of computer vision, 129(6):1789–1819.
Iman, M., Arabnia, H. R., and Rasheed, K. (2023). A review of deep transfer learning and recent advancements. Technologies, 11(2):40.
Morettin, P. A. and Bussab, W. O. (2017). Estatística básica. Saraiva Educação SA.
Omughelli, D., Gordon, N., and Al Jaber, T. (2024). Fairness, bias, and ethics in ai: Exploring the factors affecting student performance. Journal of Intelligent Communication, 3(2):100–110.
Pedregosa, F., Varoquaux, G., Gramfort, A., Michel, V., Thirion, B., Grisel, O., Blondel, M., Prettenhofer, P., Weiss, R., Dubourg, V., Vanderplas, J., Passos, A., Cournapeau, D., Brucher, M., Perrot, M., and Duchesnay, E. (2011). Scikit-learn: Machine learning in Python. Journal of Machine Learning Research, 12:2825–2830.
Salman, H., Jain, S., Ilyas, A., Engstrom, L.,Wong, E., and Madry, A. (2022). When does bias transfer in transfer learning? arXiv preprint arXiv:2207.02842.
Tan, P.-N., Steinbach, M., Karpatne, A., and Kumar, V. (2018). Introduction to Data Mining (2nd Edition). Pearson, 2nd edition.
Tsiakmaki, M., Kostopoulos, G., Kotsiantis, S., and Ragos, O. (2020). Transfer learning from deep neural networks for predicting student performance. Applied Sciences, 10(6):2145.
Weiss, K., Khoshgoftaar, T. M., and Wang, D. (2016). A survey of transfer learning. Journal of Big data, 3(1):9.
Yapo, A. and Weiss, J. (2018). Ethical implications of bias in machine learning.
Bergstra, J. and Bengio, Y. (2012). Random search for hyper-parameter optimization. The journal of machine learning research, 13(1):281–305.
Cavalcanti, L., Barros, A., Falcão, T., da Conceicao Batista, M., Cristino, C., and Alves, G. (2024). Avaliando o impacto da mudança do projeto pedagógico de cursos sobre a evasão através da análise de sobrevivência. In Anais do XXXV Simpósio Brasileiro de Informática na Educação, pages 2617–2626, Porto Alegre, RS, Brasil. SBC.
Celiberto Jr, L. A., Matsuura, J. P., De Màntaras, R. L., and Bianchi, R. A. (2010). Using transfer learning to speed-up reinforcement learning: a cased-based approach. In 2010 latin american robotics symposium and intelligent robotics meeting, pages 55–60. IEEE.
Chollet, F. et al. (2015). Keras.
Coston, A., Ramamurthy, K. N., Wei, D., Varshney, K. R., Speakman, S., Mustahsan, Z., and Chakraborty, S. (2019). Fair transfer learning with missing protected attributes. In Proceedings of the 2019 AAAI/ACM Conference on AI, Ethics, and Society, pages 91–98.
Gardner, J., Yu, R., Nguyen, Q., Brooks, C., and Kizilcec, R. (2023). Cross-institutional transfer learning for educational models: Implications for model performance, fairness, and equity. In Proceedings of the 2023 acm conference on fairness, accountability, and transparency, pages 1664–1684.
Gou, J., Yu, B., Maybank, S. J., and Tao, D. (2021). Knowledge distillation: A survey. International journal of computer vision, 129(6):1789–1819.
Iman, M., Arabnia, H. R., and Rasheed, K. (2023). A review of deep transfer learning and recent advancements. Technologies, 11(2):40.
Morettin, P. A. and Bussab, W. O. (2017). Estatística básica. Saraiva Educação SA.
Omughelli, D., Gordon, N., and Al Jaber, T. (2024). Fairness, bias, and ethics in ai: Exploring the factors affecting student performance. Journal of Intelligent Communication, 3(2):100–110.
Pedregosa, F., Varoquaux, G., Gramfort, A., Michel, V., Thirion, B., Grisel, O., Blondel, M., Prettenhofer, P., Weiss, R., Dubourg, V., Vanderplas, J., Passos, A., Cournapeau, D., Brucher, M., Perrot, M., and Duchesnay, E. (2011). Scikit-learn: Machine learning in Python. Journal of Machine Learning Research, 12:2825–2830.
Salman, H., Jain, S., Ilyas, A., Engstrom, L.,Wong, E., and Madry, A. (2022). When does bias transfer in transfer learning? arXiv preprint arXiv:2207.02842.
Tan, P.-N., Steinbach, M., Karpatne, A., and Kumar, V. (2018). Introduction to Data Mining (2nd Edition). Pearson, 2nd edition.
Tsiakmaki, M., Kostopoulos, G., Kotsiantis, S., and Ragos, O. (2020). Transfer learning from deep neural networks for predicting student performance. Applied Sciences, 10(6):2145.
Weiss, K., Khoshgoftaar, T. M., and Wang, D. (2016). A survey of transfer learning. Journal of Big data, 3(1):9.
Yapo, A. and Weiss, J. (2018). Ethical implications of bias in machine learning.
Publicado
24/11/2025
Como Citar
FREITAS, Nathan C.; ALVES, Gabriel.
Analisando a Propagação de Viés de Gênero na Aprendizagem por Transferência Aplicada à Educação. In: WORKSHOP DE ÉTICA E REGULAÇÃO EM INTELIGÊNCIA ARTIFICIAL NA EDUCAÇÃO (WER-IAEDU), 1. , 2025, Curitiba/PR.
Anais [...].
Porto Alegre: Sociedade Brasileira de Computação,
2025
.
p. 61-70.
DOI: https://doi.org/10.5753/weriaedu.2025.16250.
