Diretrizes para Melhorar a Imparcialidade de Classificadores
Resumo
Um dos aspectos essenciais em soluções baseadas em aprendizado de máquina é garantir que suas decisões não perpetuem discriminação, seja favorecendo ou desfavorecendo qualquer grupo sociodemografico. Nesse contexto, este trabalho fornece diretrizes para mitigar tais situações indesejadas em tarefas de classificação, com o objetivo de promover um aprendizado de máquina que priorize a imparcialidade em seus resultados.
Palavras-chave:
Aprendizado de Máquina, Justiça no Processo de Aprendizado, Indução de Classificadores Mais Justos
Referências
Barocas, S., Hardt, M., and Narayanan, A. (2023). Fairness and Machine Learning: Limitations and Opportunities. MIT Press.
Black, E., Raghavan, M., and Barocas, S. (2022). Model multiplicity: Opportunities, concerns, and solutions. In ACM FAccT 2022, pages 850–863.
BRASIL (1988). Constituição da República Federativa do Brasil. Brasília.
Commission, E., Directorate-General for Communications Networks, C., and Technology (2019). Ethics guidelines for trustworthy AI. Publications Office.
Green, B. and Hu, L. (2018). The myth in the methodology: Towards a recontextualization of fairness in machine learning.
Mehrabi, N., Morstatter, F., Saxena, N., Lerman, K., and Galstyan, A. (2021). A survey on bias and fairness in machine learning. ACM computing surveys (CSUR), 54(6):1–35.
Minatel, D., da Silva, A. C. M., dos Santos, N. R., Curi, M., Marcacini, R. M., and de Andrade Lopes, A. (2023a). Data stratification analysis on the propagation of discriminatory effects in binary classification. In KDMiLe 2023, pages 73–80. SBC.
Minatel, D., dos Santos, N. R., da Silva, A. C. M., Curi, M., Marcacini, R. M., and Lopes, A. d. A. (2023b). Unfairness in machine learning for web systems applications. In 29th Brazilian Symposium on Multimedia and the Web, pages 144–153.
Parmezan, A. R. S., Lee, H. D., and Wu, F. C. (2017). Metalearning for choosing feature selection algorithms in data mining: Proposal of a new framework. Expert Syst. Appl., 75:1–24.
Suresh, H. and Guttag, J. (2021). A framework for understanding sources of harm throughout the machine learning life cycle. In EAAMO’21, pages 1–9.
Black, E., Raghavan, M., and Barocas, S. (2022). Model multiplicity: Opportunities, concerns, and solutions. In ACM FAccT 2022, pages 850–863.
BRASIL (1988). Constituição da República Federativa do Brasil. Brasília.
Commission, E., Directorate-General for Communications Networks, C., and Technology (2019). Ethics guidelines for trustworthy AI. Publications Office.
Green, B. and Hu, L. (2018). The myth in the methodology: Towards a recontextualization of fairness in machine learning.
Mehrabi, N., Morstatter, F., Saxena, N., Lerman, K., and Galstyan, A. (2021). A survey on bias and fairness in machine learning. ACM computing surveys (CSUR), 54(6):1–35.
Minatel, D., da Silva, A. C. M., dos Santos, N. R., Curi, M., Marcacini, R. M., and de Andrade Lopes, A. (2023a). Data stratification analysis on the propagation of discriminatory effects in binary classification. In KDMiLe 2023, pages 73–80. SBC.
Minatel, D., dos Santos, N. R., da Silva, A. C. M., Curi, M., Marcacini, R. M., and Lopes, A. d. A. (2023b). Unfairness in machine learning for web systems applications. In 29th Brazilian Symposium on Multimedia and the Web, pages 144–153.
Parmezan, A. R. S., Lee, H. D., and Wu, F. C. (2017). Metalearning for choosing feature selection algorithms in data mining: Proposal of a new framework. Expert Syst. Appl., 75:1–24.
Suresh, H. and Guttag, J. (2021). A framework for understanding sources of harm throughout the machine learning life cycle. In EAAMO’21, pages 1–9.
Publicado
27/11/2024
Como Citar
MINATEL, Diego; SANTOS, Nícolas Roque dos; LOPES, Alneu de Andrade.
Diretrizes para Melhorar a Imparcialidade de Classificadores. In: CONFERÊNCIA LATINO-AMERICANA DE ÉTICA EM INTELIGÊNCIA ARTIFICIAL, 1. , 2024, Niteroi.
Anais [...].
Porto Alegre: Sociedade Brasileira de Computação,
2024
.
p. 49-52.
DOI: https://doi.org/10.5753/laai-ethics.2024.32449.
