Inteligência Artificial na Educação: Proposta de um Framework para Adoção Ética
Resumo
A crescente incorporação de tecnologias de Inteligência Artificial (IA) na educação traz benefícios significativos, como a personalização do ensino e a automação de processos, mas também impõe desafios éticos e regulatórios relevantes. Este artigo propõe um framework para a adoção ética de IA em ambientes educacionais brasileiros. O framework destaca cinco pilares centrais: privacidade e proteção de dados, transparência e explicabilidade, mitigação de viés e justiça, supervisão humana e responsabilidade, e inclusão e equidade. A proposta visa oferecer orientações claras para desenvolvedores, instituições educacionais e formuladores de políticas, contribuindo para o uso responsável e alinhado às normas vigentes da IA na educação.
Palavras-chave:
Inteligência Artificial, Educação Brasileira, Ética, Regulação
Referências
Bowen, G. A. (2009). Document analysis as a qualitative research method. Qualitative research journal, 9(2):27–40.
Brasil (2018). Lei n.. 13.709, de 14 de agosto de 2018. lei geral de proteção de dados pessoais (lgpd). Acesso em: 28 ago. 2025.
Brasil (2023). Projeto de lei n. 2.338/2023 – regulamentação da inteligência artificial. Diário Oficial da Uni˜ao.
Centro de Inovação para a Educação Brasileira (CIEB) (2023). Pesquisa sobre capacitação docente para uso de inteligência artificial na educação. [link].
Crawford, K. (2021). Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press, New Haven.
Doshi-Velez, F. and Kim, B. (2017). Towards a rigorous science of interpretable machine learning. arXiv preprint arXiv:1702.08608.
European Union (2016). General data protection regulation (gdpr). Acesso em: 28 ago. 2025.
Europeia, U. (2024). Artificial intelligence act (ai act). EU Publication.
Floridi, L. and Cowls, J. (2019). Ai4people—an ethical framework for a good ai society: Opportunities, risks, principles, and recommendations. Minds and Machines, 28(4):689–707.
Freire, P. (1996). Pedagogia da Autonomia: Saberes Necessários à Prática Educativa. Paz e Terra, São Paulo.
High-Level Expert Group on Artificial Intelligence (2019). Ethics guidelines for trustworthy ai. Acesso em: 28 ago. 2025.
Holmes, W., Bialik, M., and Fadel, C. (2022). Artificial intelligence in education: Promises and implications for teaching and learning. In Proceedings of the AI in Education Conference.
Holmes, W. and Tuomi, I. (2022). State of the art and practice in ai in education. European Journal of Education, 57(4):542–570.
Instituto Nacional de Estudos e Pesquisas Educacionais Anísio Teixeira (INEP) (2024). Censo escolar 2024: Dados sobre o uso de tecnologias em escolas públicas brasileiras. [link].
Kawa, L. and Nguyen, A. (2022). Fairness in algorithmic decision-making in education: Challenges and opportunities. Computers Education, 180:104–115.
Kitchenham, B., Brereton, O. P., Budgen, D., Turner, M., Bailey, J., and Linkman, S. (2009). Systematic literature reviews in software engineering–a systematic literature review. Information and software technology, 51(1):7–15.
Labadze, L., Grigolia, M., and Machaidze, L. (2023). Role of ai chatbots in education: systematic literature review. International journal of Educational Technology in Higher education, 20(1):56.
Levantis, N. and Sgora, A. (2024). Algorithmic decision making in education: Challenges and opportunities. In 2024 IEEE Global Engineering Education Conference (EDUCON), pages 1–7. IEEE.
Lipton, Z. C. (2018). The mythos of model interpretability. In Proceedings of ICML Workshop on Human Interpretability in Machine Learning.
Luckin, R., Holmes, W., Griffiths, M., and Forcier, L. B. (2016). Intelligence unleashed: An argument for ai in education. Pearson Education.
Mehrabi, N., Morstatter, F., Saxena, N., Lerman, K., and Galstyan, A. (2022). A survey on bias and fairness in machine learning. ACM Computing Surveys, 54(6):1–35.
Ministério da Educação (MEC) (2023). Relatório sobre infraestrutura digital nas escolas brasileiras. [link].
Nakagawa, E. Y., Scannavino, K. R. F., Fabbri, S. C. P. F., and Ferrari, F. C. (2017). Revisão sistemática da literatura em engenharia de software: teoria e prática. Elsevier Brasil.
Organisation for Economic Co-operation and Development (2019). Oecd principles on artificial intelligence. Acesso em: 28 ago. 2025.
Rizzo, A. and Jones, M. (2023). Adaptive learning platforms and student outcomes: A review. Journal of Learning Analytics, 10(2):45–60.
UNESCO (2021a). Recomendação sobre a Ética da inteligência artificial. Acesso em: 28 ago. 2025.
UNESCO (2021b). Recommendation on the ethics of artificial intelligence. UNESCO.
Weinberger, A. and Richards, S. (2021). Privacy concerns in ai-based educational tools. Ethics and Information Technology, 23(1):25–40.
Wohlin, C. (2014). Guidelines for snowballing in systematic literature studies and a replication in software engineering. In Proceedings of the 18th international conference on evaluation and assessment in software engineering, pages 1–10.
Brasil (2018). Lei n.. 13.709, de 14 de agosto de 2018. lei geral de proteção de dados pessoais (lgpd). Acesso em: 28 ago. 2025.
Brasil (2023). Projeto de lei n. 2.338/2023 – regulamentação da inteligência artificial. Diário Oficial da Uni˜ao.
Centro de Inovação para a Educação Brasileira (CIEB) (2023). Pesquisa sobre capacitação docente para uso de inteligência artificial na educação. [link].
Crawford, K. (2021). Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press, New Haven.
Doshi-Velez, F. and Kim, B. (2017). Towards a rigorous science of interpretable machine learning. arXiv preprint arXiv:1702.08608.
European Union (2016). General data protection regulation (gdpr). Acesso em: 28 ago. 2025.
Europeia, U. (2024). Artificial intelligence act (ai act). EU Publication.
Floridi, L. and Cowls, J. (2019). Ai4people—an ethical framework for a good ai society: Opportunities, risks, principles, and recommendations. Minds and Machines, 28(4):689–707.
Freire, P. (1996). Pedagogia da Autonomia: Saberes Necessários à Prática Educativa. Paz e Terra, São Paulo.
High-Level Expert Group on Artificial Intelligence (2019). Ethics guidelines for trustworthy ai. Acesso em: 28 ago. 2025.
Holmes, W., Bialik, M., and Fadel, C. (2022). Artificial intelligence in education: Promises and implications for teaching and learning. In Proceedings of the AI in Education Conference.
Holmes, W. and Tuomi, I. (2022). State of the art and practice in ai in education. European Journal of Education, 57(4):542–570.
Instituto Nacional de Estudos e Pesquisas Educacionais Anísio Teixeira (INEP) (2024). Censo escolar 2024: Dados sobre o uso de tecnologias em escolas públicas brasileiras. [link].
Kawa, L. and Nguyen, A. (2022). Fairness in algorithmic decision-making in education: Challenges and opportunities. Computers Education, 180:104–115.
Kitchenham, B., Brereton, O. P., Budgen, D., Turner, M., Bailey, J., and Linkman, S. (2009). Systematic literature reviews in software engineering–a systematic literature review. Information and software technology, 51(1):7–15.
Labadze, L., Grigolia, M., and Machaidze, L. (2023). Role of ai chatbots in education: systematic literature review. International journal of Educational Technology in Higher education, 20(1):56.
Levantis, N. and Sgora, A. (2024). Algorithmic decision making in education: Challenges and opportunities. In 2024 IEEE Global Engineering Education Conference (EDUCON), pages 1–7. IEEE.
Lipton, Z. C. (2018). The mythos of model interpretability. In Proceedings of ICML Workshop on Human Interpretability in Machine Learning.
Luckin, R., Holmes, W., Griffiths, M., and Forcier, L. B. (2016). Intelligence unleashed: An argument for ai in education. Pearson Education.
Mehrabi, N., Morstatter, F., Saxena, N., Lerman, K., and Galstyan, A. (2022). A survey on bias and fairness in machine learning. ACM Computing Surveys, 54(6):1–35.
Ministério da Educação (MEC) (2023). Relatório sobre infraestrutura digital nas escolas brasileiras. [link].
Nakagawa, E. Y., Scannavino, K. R. F., Fabbri, S. C. P. F., and Ferrari, F. C. (2017). Revisão sistemática da literatura em engenharia de software: teoria e prática. Elsevier Brasil.
Organisation for Economic Co-operation and Development (2019). Oecd principles on artificial intelligence. Acesso em: 28 ago. 2025.
Rizzo, A. and Jones, M. (2023). Adaptive learning platforms and student outcomes: A review. Journal of Learning Analytics, 10(2):45–60.
UNESCO (2021a). Recomendação sobre a Ética da inteligência artificial. Acesso em: 28 ago. 2025.
UNESCO (2021b). Recommendation on the ethics of artificial intelligence. UNESCO.
Weinberger, A. and Richards, S. (2021). Privacy concerns in ai-based educational tools. Ethics and Information Technology, 23(1):25–40.
Wohlin, C. (2014). Guidelines for snowballing in systematic literature studies and a replication in software engineering. In Proceedings of the 18th international conference on evaluation and assessment in software engineering, pages 1–10.
Publicado
24/11/2025
Como Citar
ALMEIDA, Eduarda Maganha de; RELLI, Cleber de Souza.
Inteligência Artificial na Educação: Proposta de um Framework para Adoção Ética. In: WORKSHOP DE ÉTICA E REGULAÇÃO EM INTELIGÊNCIA ARTIFICIAL NA EDUCAÇÃO (WER-IAEDU), 1. , 2025, Curitiba/PR.
Anais [...].
Porto Alegre: Sociedade Brasileira de Computação,
2025
.
p. 39-50.
DOI: https://doi.org/10.5753/weriaedu.2025.16203.
