Cenário da Pesquisa sobre Ética em IA: Tendências e Desafios
Resumo
Introdução: Com a popularização da Inteligência Artificial nos últimos anos, novas questões passaram a ser debatidas, especialmente em relação aos seus aspectos éticos. Objetivo: O objetivo é explorar o panorama da pesquisa sobre ética em IA por meio de uma revisão terciária da literatura. Metodologia ou Etapas: Foi realizada uma análise de estudos secundários publicados entre 2020 e 2025, com foco em ética e responsabilidade em IA. Os dados foram analisados qualitativamente, visando identificar temas recorrentes, lacunas e desafios. Resultados: Os estudos analisados destacam temas recorrentes como privacidadee e segurança da IA. Também foram identificadas dificuldades como a ausência de referências a normas existentes.
Referências
Arbix, G. (2020). A transparência no centro da construção de uma ia ética. Novos estudos CEBRAP, 39(2):395–413.
Arrieta, A. B., Díaz-Rodríguez, N., Del Ser, J., Bennetot, A., Tabik, S., Barbado, A., García, S., Gil-López, S., Molina, D., Benjamins, R., et al. (2020). Explainable artificial intelligence (xai): Concepts, taxonomies, opportunities and challenges toward responsible ai. Information Fusion, 58:82–115.
Ayling, J. e CHAPMAN, A. (2022). Putting ai ethics to work: are the tools ft for purpose? AI and Ethics, 2(3):405–429.
Bond, M., Khosravi, H., De Laat, M., Bergdahl, N., Negrea, V., Oxley, E., Pham, P., Chong, S. W., e Siemens, G. (2024). A meta systematic review of artificial intelligence in higher education: A call for increased ethics, collaboration, and rigour. International Journal of Educational Technology in Higher Education, 21(1):4.
Brandão, C. E. (2022). Um framework para a gestão de riscos de inteligência artificial nas organizações. Master’s thesis, Escola de Administração de Empresas de São Paulo da Fundação Getulio Vargas, São Paulo.
BRASIL. Ministério da Cultura (2024). Senado federal aprova marco regulatório da inteligência artificial. Disponível em: [link]. Acesso em: 05 de maio de 2025.
Capel, T. e Brereton, M. (2023). What is human-centered about human-centered ai? a map of the research landscape. In Proceedings of the 2023 CHI conference on human factors in computing systems, pages 1–23.
Carvalho, A. C. P. d. L. et al. (2021). Inteligência artifcial: riscos, benefícios e uso responsável. Estudos Avançados, 35:21–36.
Cavalcante, A. F., Silvestre Filho, I., e de Oliveira, V. J. (2025). Ciência e algorítmos: Os desafios da inteligência artificial na construção do conhecimento. Revista Políticas Públicas & Cidades, 14(1):e1631–e1631.
Cerqueira, J. A. S. d., Acco Tives, H., e Dias Canedo, E. (2021). Ethical guidelines and principles in the context of artificial intelligence. In Proceedings of the XVII Brazilian Symposium on Information Systems, pages 1–8.
Chen, L., Babar, M. A., e Zhang, H. (2010). Towards an evidence-based understanding of electronic data sources. In 14th International conference on evaluation and assessment in software engineering (EASE). BCS Learning & Development.
da Cunha Lamb, L. (2024). Ética em ia e ia ética: prolegômenos e estudo de casos significativos. Revista USP, (141):107–120.
Deejay, A., Wells, T., Henne, K., e Bächtold, S. (2024). Bad adopters or bad proponents of technology? facebook and the violence against muslims in myanmar. Third World Quarterly, 45(8):1309–1324.
Dicio – Dicionário Online de Português (2024). Equidade. Disponível em: [link]. Acesso em: 11 maio 2025.
Duarte, E. F., T. Palomino, P., Pontual Falcão, T., Lis Porto, G., e Portela, Carlos e Francisco Ribeiro, D. e. N. A. e. A. Y. e. S. M. e. G. A. e. M. T. A. (2024). GranDIHC-BR 2025-2035 - GC6: Implications of Artifcial Intelligence in HCI: A Discussion on Paradigms, Ethics, and Diversity, Equity and Inclusion. In Proceedings of the XXIII Brazilian Symposium on Human Factors in Computing Systems (IHC ’24), New York, NY, USA. Association for Computing Machinery.
EqualAI (2024). Equalai checklist and aia tool. Disponível em: [link]. Acesso em: 20 de agosto de 2025.
Esterwood, C. e Robert, L. P. (2020). Personality in healthcare human robot interaction (h-hri) a literature review and brief critique. In Proceedings of the 8th international conference on human-agent interaction, pages 87–95.
Ferroni, Jorge Mariano e Parenti, P. (2024). Desafíos éticos y regulatorios de la inteligencia artificial en la investigación médica: reflexiones sobre una regulación inteligente. Revista Binacional Brasil-Argentina: Diálogo entre as ciências, 14(2):103–119.
Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., et al. (2018). Ai4people—an ethical framework for a good ai society: opportunities, risks, principles, and recommendations. Minds and machines, 28:689–707.
Gema, Juliano Augusto Anselmo e de Lucca Filho, J. (2024). Ética na inteligência artificial: Desenvolvimento responsável de sistemas inteligentes. Revista Interface Tecnológica, 21(1):222–232.
Global Alliance for Ethical AI Innovation (2025). Ethical evaluation framework (eef). Disponível em: [link]. Acesso em: 18 de abril de 2025.
Gomes, O. S., Braga, G., de Souza, E. F., et al. (2023). Ethics in the software development process: a tertiary literature review. In Workshop sobre Aspectos Sociais, Humanos e Econômicos de Software (WASHES), pages 71–80. SBC.
Holm, E. A. (2019). In defense of the black box. Science, 364(6435):26–27.
IEEE Standards Association (2021). Ieee 7000-2021: Ieee standard model process for addressing ethical concerns during system design. Standard.
Jobin, A., Ienca, M., e Vayena, E. (2019). The global landscape of AI ethics guidelines. Nature Machine Intelligence, 1(9):389–399.
Kallina, E., Bohné, T., e Singh, J. (2025). Stakeholder participation for responsible ai development: Disconnects between guidance and current practice. In Proceedings of the 2025 ACM Conference on Fairness, Accountability, and Transparency, FAccT ’25, page 1060–1079, New York, NY, USA. Association for Computing Machinery.
Kelley, S. (2022). Employee perceptions of the effective adoption of ai principles. Journal of Business Ethics, 178(4):871–893.
Kitchenham, B., Charters, S., et al. (2007). Guidelines for performing systematic literature reviews in software engineering.
Kitchenham, B. A., Brereton, O. P., e Budgen, D. (2008). Protocol for extending an existing tertiary study of systematic literature reviews in software engineering.
Lars, D. (2025). Deepseek data leak exposes 1,000,000 sensitive records. Disponível em: [link]. Acesso em: 16 de julho de 2025.
Leonel, J. S., Leonel, C. F. S., Byk, J., e Furtado, S. d. C. (2025). Inteligencia artificial: desafíos éticos y futuros. Revista Bioética, 32:e3739PT.
Lopes, Carolina de Melo Nunes e Mendes, J. C. (2023). Ética e inteligência artificial: desafos e melhores práticas. Revista da UFMG, 30.
Lütge, C., Poszler, F., Acosta, A. J., Danks, D., Gottehrer, G., Mihet-Popa, L., e Naseer, A. (2021). Ai4people: ethical guidelines for the automotive sector–fundamental requirements and practical recommendations. International Journal of Technoethics (IJT), 12(1):101–125.
Machado, R. (2024). Ética em Machine Learning. Disponível em: [link]. Acesso em: 20 de maio de 2025.
Mäntymäki, M., Salmela, H., e Mattila, J. (2022). The hourglass model of organizational ai governance. Information Systems Frontiers.
Martins, R. H. e Viana, H. B. (2022). Inteligência artifcial na educação: Uma revisão integrativa da literatura. INTERNET LATENT CORPUS JOURNAL, 12(2):125–137.
Meireles, A. V. (2023). Privacidade no século 21: proteção de dados, democracia e modelos regulatórios. Revista Brasileira de Ciência Política, page e265909.
Meyer von Wolff, R., Hobert, S., e Schumann, M. (2019). How may i help you?–state of the art and open research questions for chatbots at the digital workplace.
Mittelstadt, B. (2019). Principles alone cannot guarantee ethical ai. Nature machine intelligence, 1(11):501–507.
Morley, J., Floridi, L., Kinsey, L., e Elhalal, A. (2020). From what to how: an initial review of publicly available ai ethics tools, methods and research to translate principles into practices. Science and engineering ethics, 26(4):2141–2168.
Olszewska, J. I., Systems, Committee, S. E. S., et al. (2021). Ieee standard model process for addressing ethical concerns during system design: Ieee standard 7000-2021.
Pereira, R., Darin, T., e Silveira, M. S. (2024). GranDIHC-BR: Grand Research Challenges in Human-Computer Interaction in Brazil for 2025-2035. In Proceedings of the XXIII Brazilian Symposium on Human Factors in Computing Systems (IHC ’24), New York, NY, USA. Association for Computing Machinery.
Petersen, K., Vakkalanka, S., e Kuzniarz, L. (2015). Guidelines for conducting systematic mapping studies in software engineering: An update. Information and Software Technology, 64:1–18.
Rodrigues, K. R. d. H., Carvalho, L. P., Pimentel, M. d. G. C., e Freire, A. P. (2024). GranDIHC-BR 2025-2035 - GC2: Ethics and Responsibility: Principles, Regulations, and Societal Implications of Human Participation in HCI Research. In Proceedings of the XXIII Brazilian Symposium on Human Factors in Computing Systems (IHC ’24), New York, NY, USA. ACM.
Santos, C. F. d. (2024). Inteligência artifcial e o direito à privacidade: navegando pelos desafios regulatórios no brasil.
Scher, C. (2023). A deontological analysis of the amazon ai recruitment tool. Trabalho de Conclusão de Curso (Bachelor of Science) – University of Virginia, School of Engineering and Applied Science, Charlottesville, 2023. Orientador: Benjamin Laugelli.
Schiff, D., Rakova, B., Ayesh, A., Fanti, A., e Lennon, M. (2020). Principles to practices for responsible ai: closing the gap. Disponível em: [link]. Acesso em: 05 de maio de 2025.
Sharma, R. e Silva, D. (2025). Ethics in ai: Balancing innovation and responsibility. Disponível em: [link]. Acesso em: 29 de junho de 2025.
Shneiderman, B. (2020). Bridging the gap between ethics and practice: guidelines for reliable, safe, and trustworthy human-centered ai systems. ACM Transactions on Interactive Intelligent Systems (TiiS), 10(4):1–31.
Sichman, J. S. (2021). Inteligência artificial e sociedade: avanços e riscos. Estudos Avançados, 35:37–50.
Simonassi, G. S., Teixeira, F. F., de Barros, L. P., Andrade, V. M., e dos Santos, T. R. (2024). O impacto da inteligência artificial no diagnóstico médico: Avanços, desafios e oportunidades. Revista Ibero-Americana de Humanidades, Ciências e Educação, 10(10):2233–2242.
Souza Filho, E. M. d., Fernandes, F. d. A., Pereira, N. C. d. A., Mesquita, C. T., e Gismondi, R. A. (2020). Ethics, artificial intelligence and cardiology. Arquivos Brasileiros de Cardiologia, 115:579–583.
Strey, M. R., Pereira, R., e de Castro Salgado, L. C. (2018). Human data-interaction: a systematic mapping. In Proceedings of the 17th Brazilian Symposium on Human Factors in Computing Systems, pages 1–12.
Trustmark Initiative (2024). Trustmarkinitiative.ai — linux foundation initiative for ai ethics and compliance. Disponível em: [link]. Acesso em: 25 de abril de 2025.
UNESCO (2023). Ethical impact assessment tool for the recommendation on the ethics of artificial intelligence. Disponível em: [link]. Acesso em: 29 de junho de 2025.
UNESCO (2025). Piloting the ethical impact assessment in latin america. Disponível em: [link]. Acesso em: 12 de julho de 2025.
van Mourik, F., Jutte, A., Berendse, S. E., Bukhsh, F. A., e Ahmed, F. (2024). Tertiary review on explainable artificial intelligence: where do we stand? Machine Learning and Knowledge Extraction, 6(3):1997–2017.
Wohlin, C., Runeson, P., Host, M., Ohlsson, M. C., Regnell, B. j., e Wessln, A. (2012). Experimentation in software engineering. Springer Publishing Company, Incorporated.
