Inteligência Artificial e o Desenvolvimento de Software: Vieses, Privacidade e Responsabilidade Ética

• Breno Salu Souza de Oliveira UFV
• Elisa Ribeiro Gonçalves UFV
• Emanuel Teixeira Martins UFV
• Rian Lucas da Silva Valadão UFV
• Yasmin Souza Lima UFV
• Liziane Santos Soares UFV

DOI: https://doi.org/10.5753/wsis.2025.14896

Resumo

Este trabalho aborda questões éticas na criação de sistemas de Inteligência Artificial (IA), com ênfase no viés algorítmico, privacidade dos dados e impacto social desses sistemas. As implicações técnicas, sociais e legais da adoção da IA em larga escala são analisadas através de cases e pesquisas recentes. São discutidas soluções como a promoção da transparência algorítmica, o fortalecimento da formação ética dos profissionais e a elaboração de diretrizes conjuntas entre instituições acadêmicas, governamentais e do setor privado. Destaca-se que uma abordagem interdisciplinar é essencial para garantir o desenvolvimento da IA de forma justa, responsável e alinhada aos valores democráticos, contribuindo para um futuro tecnológico mais ético e inclusivo.

Referências

Adadi, A. and Berrada, M. (2018). Peeking inside the black-box: a survey on explainable artificial intelligence (XAI). IEEE access, 6:52138–52160.

Buolamwini, J. and Gebru, T. (2018). Gender shades: Inter-sectional accuracy disparities in commercial gender classification. In Conference on fairness, accountability and transparency, pages 77–91. PMLR.

Butterick, M. and Joseph Saveri Law Firm & Craft (2022). Github copilot litigation. Acesso em 19 jun. 2025. Disponível em: [link].

Christina Tikkinen-Piri, Anna Rohunen, J. M. (2017). Regulation (eu) 2016/679 of the european parliament and of the council. Elsevier Science-Direct Journals, 34(1):134.

Dastin, J. (2018). Amazon scraps secret ai recruiting tool that showed bias against women. Acesso em 19 jun. 2025. Disponível em: [link].

Dressel, J. and Farid, H. (2018). The accuracy, fairness, and limits of predicting recidivism. Science advances, 4(1):eaao5580.

European Union (2016). Regulation (EU) 2016/679 of the European Parliament and of the Council. [link]. General Data Protection Regulation (GDPR).

Friedman, B. and Nissenbaum, H. (1996). Bias in computer systems. In Proceedings of the conference on Computers, freedom and privacy, pages 21–30. ACM.

Garcia, L. R., Aguilera-Fernandes, E., Gonçalves, R. A. M., and Pereira-Barretto, M. R. (2020). Lei Geral de Proteção de Dados (LGPD): guia de implantação. Editora Blucher.

Gomes, E. B., Vaz, A. A., and de Oliveira Dias, S. M. (2021). Limites éticos para o uso da inteligência artificial no sistema de justiça brasileiro, de acordo com a lei 13.709 de 2018 (lgpd) e resoluções 331 e 332 do conselho nacional de justiça. Revista Internacional CONSINTER de Direito, 13:107–124. Acesso em 17 jun. 2025. Epub 08-Set-2022.

IEEE (2017). Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems, Version 1. IEEE.

Landymore, F. (2024). Stack overflow bans users for protesting against it selling their answers to openai as training data. The Byte. Acesso em 19 jun. 2025. Disponível em: [link].

OECD (2019). Oecd ai principles. [link]. Accessed: 2025-07-03.

Selbst, A. D., Boyd, D., Friedler, S. A., Venkatasubramanian, S., and Vertesi, J. (2019). Fairness and abstraction in sociotechnical systems. In Proceedings of the conference on fairness, accountability, and transparency, pages 59–68.

Sobrinho, G. (2025). Como a inteligência artificial está revolucionando o desenvolvimento de software em 2025. Acesso em 23 jun. 2025. Disponível em: [link].

Zag Sites, K. A. S. M. (2025). O que é inteligência artificial? Acesso em 23 jun. 2025. Disponível em: [link].