Viés, ética e responsabilidade social em modelos preditivos
Palavras-chave:
Aprendizado de Máquina, Viés, Ética, Responsabilidade SocialResumo
Modelos preditivos baseados em Aprendizado de Máquina têm sido amplamente empregados para apoiar processos diversos de tomada de decisões. Suas decisões, entretanto, podem ter impacto em direitos humanos em diferentes grupos da sociedade. Isso porque os modelos são treinados com base em dados oriundos da própria sociedade, muitas vezes, com vieses embutidos ou aprendidos. Nesse sentido, é necessário ir além do tradicional objetivo de se obter modelos preditivos com alto desempenho e incorporar princípios éticos e responsáveis em sua concepção, treinamento e implantação para garantir o bem social. Este artigo discute aspectos associados a vieses, ética e responsabilidade social na construção de modelos preditivos.
Downloads
Referências
ALPAYDIN, E. Introduction to Machine Learning. 3rd Edition. Massachusetts: MIT Press, 2010.
CASTANEDA, J.; JOVER, A.; CALVET, L.; YANES, S.; JUAN, A.A.; SAINZ, M. Dealing with Gender Bias Issues in Data-Algorithmic Processes: A Social-Statistical Perspective. Algorithms 2022, 16 303.
DASTIN, J. Amazon scraps secret AI recruiting tool that showed bias against women. In Ethics of Data and Analytics; Auerbach Publications: B.R., FL, USA, 2018; pp. 296–299.
FIRMANI, D.; TANCA, L.; TORLONE, R. Ethical dimensions for data quality. Journal Data and Information Quality, Association for Computing Machinery, New York, NY, USA, v. 12, n. 1, 2019. ISSN 1936-1955.
PAGANO, T.P. et al. Bias and Unfairness in Machine Learning Models: A Systematic Review on Datasets, Tools, Fairness Metrics, and Identification and Mitigation Methods. Big Data Cogn. Comput. 2023, 7, 15.
SAHOO, Nihar et al. Detecting Unintended Social Bias in Toxic Language Datasets. ArXiv abs/2210.11762 (2022).
STOYANOVICH, J; LEWIS, A. Teaching Responsible Data Science: Charting New Pedagogical Territory. Int. Journal of Artificial Intelligence in Education (IJAIED), 2021.
VARONA, D.; SUÁREZ, J.L. Discrimination, Bias, Fairness, and Trustworthy AI. Appl. Sci. 2022, 12, 5826.
