Racismo Algorítmico: Uma discussão fundamentada
Resumo
Modelos de Aprendizado de Máquina, subárea da Inteligência Artificial, vêm se tornando cada vez mais comuns no cotidiano. Contudo, há a necessidade de analisar o impacto que esses modelos podem ter em minorias socialmente vulneráveis e os vieses que podem ser apresentados, independente de sua causa e mitigando sua consequência. Para isso, é importante entender incidentes que já ocorreram, observando suas potenciais falhas técnicas e consequências jurídicas relacionadas. A partir dessa análise, o trabalho propõe soluções que podem minimizar o impacto das falhas.
Palavras-chave:
Aprendizado de Máquina, Racismo Algorítmico, Distribuição Étnica em Datasets
Referências
Arora, N. (2020). AGE, GENDER AND ETHNICITY (FACE DATA) CSV.
Carrera, F. (2020). Comunidades, algoritmos e ativismos digitais: olhares afrodiaspóricos. In Racismo e sexismo em bancos de imagens digitais: análise de resultados de busca e atribuição de relevância na dimensão financeira/profissional (p. 149-165). Sao Paulo: Literarua.
Costa, R. S., & Kremer, B. (2022). Inteligência artificial e discriminação: desafios e perspectivas para a proteção de grupos vulneráveis frente às tecnologias de reconhecimento facial. Revista Brasileira de Direitos Fundamentais & Justic¸a, 16(1).
de Lucena, P. A. C. (2019). Policiamento preditivo, discriminação algorítmica e racismo: potencialidades e reflexos no Brasil. In Anais do VI Simposio Internacional Lavits: “assimetrias e (in)visibilidades: Vigilancia, gênero e raça”. Salvador: Lavits.
do Amaral, A. J., Martins, F., & Elesbão, A. C. (2021). Racismo algorítmico: uma análise da branquitude nos bancos de imagens digitais. Pensar : Revista de Ciências Jurídicas, 26(4).
Fidalgo, L. B. B. (2022). Discriminações algorítmicas: racismo e sexismo nas relações laborais: Algorithmic discrimination: racism and sexism in labor relations. Brazilian Journal of Development, 8(10).
JohnM. (2014a). Dallas Police Arrests. In: Police Violence & Racial Equity - Part 2 of 2.
JohnM. (2014b). NYPD Arrests Data Historic . In: Police Violence & Racial Equity - Part 2 of 2.
JohnM. (2014c). Police Violence & Racial Equity - Part 1 of 2.
Oliveira, C. (2018). Aprendizado de máquina e modulação do comportamento humano. In A sociedade de controle: manipulação e modulação nas redes digitais. Sao Paulo: Hedra.
OP, M. (2014). Arrests in the City of Chicago (2014 - 2023).
Pereira, D. F. M. (2020). O uso de câmeras de reconhecimento facial em contexto de pós-democracia – uma ferramenta contra o inimigo no direito penal? ADPEB.
Possa, A. (2022). O reconhecimento facial como instrumento de reforço do estado de coisas inconstitucionais no Brasil. IDP Law Review, 1(2).
Samoshyn, A. (2015). Data Police shootings.
Silva, M. L., & Araujo, W. F. (2020). Biopolítica, racismo estrutural-algorítmico e subjetividade. Revista Educação Unisinos, 24.
Silva, T. (2020). Visao computacional e racismo algorítmico: Branquitude e opacidade no aprendizado de máquina. Revista da Associação Brasileira de Pesquisadores/as Negros/as (ABPN), 12(31).
Silva, T. (2022). Linha do tempo do racismo algorítmico. Blog do Tarcizio Silva.
Carrera, F. (2020). Comunidades, algoritmos e ativismos digitais: olhares afrodiaspóricos. In Racismo e sexismo em bancos de imagens digitais: análise de resultados de busca e atribuição de relevância na dimensão financeira/profissional (p. 149-165). Sao Paulo: Literarua.
Costa, R. S., & Kremer, B. (2022). Inteligência artificial e discriminação: desafios e perspectivas para a proteção de grupos vulneráveis frente às tecnologias de reconhecimento facial. Revista Brasileira de Direitos Fundamentais & Justic¸a, 16(1).
de Lucena, P. A. C. (2019). Policiamento preditivo, discriminação algorítmica e racismo: potencialidades e reflexos no Brasil. In Anais do VI Simposio Internacional Lavits: “assimetrias e (in)visibilidades: Vigilancia, gênero e raça”. Salvador: Lavits.
do Amaral, A. J., Martins, F., & Elesbão, A. C. (2021). Racismo algorítmico: uma análise da branquitude nos bancos de imagens digitais. Pensar : Revista de Ciências Jurídicas, 26(4).
Fidalgo, L. B. B. (2022). Discriminações algorítmicas: racismo e sexismo nas relações laborais: Algorithmic discrimination: racism and sexism in labor relations. Brazilian Journal of Development, 8(10).
JohnM. (2014a). Dallas Police Arrests. In: Police Violence & Racial Equity - Part 2 of 2.
JohnM. (2014b). NYPD Arrests Data Historic . In: Police Violence & Racial Equity - Part 2 of 2.
JohnM. (2014c). Police Violence & Racial Equity - Part 1 of 2.
Oliveira, C. (2018). Aprendizado de máquina e modulação do comportamento humano. In A sociedade de controle: manipulação e modulação nas redes digitais. Sao Paulo: Hedra.
OP, M. (2014). Arrests in the City of Chicago (2014 - 2023).
Pereira, D. F. M. (2020). O uso de câmeras de reconhecimento facial em contexto de pós-democracia – uma ferramenta contra o inimigo no direito penal? ADPEB.
Possa, A. (2022). O reconhecimento facial como instrumento de reforço do estado de coisas inconstitucionais no Brasil. IDP Law Review, 1(2).
Samoshyn, A. (2015). Data Police shootings.
Silva, M. L., & Araujo, W. F. (2020). Biopolítica, racismo estrutural-algorítmico e subjetividade. Revista Educação Unisinos, 24.
Silva, T. (2020). Visao computacional e racismo algorítmico: Branquitude e opacidade no aprendizado de máquina. Revista da Associação Brasileira de Pesquisadores/as Negros/as (ABPN), 12(31).
Silva, T. (2022). Linha do tempo do racismo algorítmico. Blog do Tarcizio Silva.
Publicado
27/11/2024
Como Citar
MENEZES, Pedro M. O.; BARBOSA, Lucas A..
Racismo Algorítmico: Uma discussão fundamentada. In: CONFERÊNCIA LATINO-AMERICANA DE ÉTICA EM INTELIGÊNCIA ARTIFICIAL, 1. , 2024, Niteroi.
Anais [...].
Porto Alegre: Sociedade Brasileira de Computação,
2024
.
p. 9-12.
DOI: https://doi.org/10.5753/laai-ethics.2024.32439.
