A Mulher Latina na IA Generativa: desafios de representação e vieses sociais
Resumo
O texto discute como a IA generativa reproduz vieses sociais, especialmente na representação de mulheres latinas. A pesquisa, usando os modelos Stable Diffusion e Dall-E, mostra que as imagens geradas reforçam estereótipos de sensualidade e padrões de beleza, com falta de diversidade geográfica. Conclui-se que é crucial avançar na criação de IA mais inclusivas e éticas para evitar a perpetuação desses vieses.
Palavras-chave:
IA Generativa, Geração de Imagens Sintéticas, Vies na Representação de Mulheres, Stable Diffusion, Dall-E
Referências
Bansal, H., Yin, D., Monajatipoor, M., Chang, K. W. (2022) "How well can text-to-image generative models understand ethical natural language interventions?", arXiv preprint arXiv:2210.15230.
Bianchi, F., Kalluri, P., Durmus, E., Ladhak, F., Cheng, M., Nozza, D.; ... and Caliskan, A. (2023) "Easily accessible text-to-image generation amplifies demographic stereotypes at large scale". In: Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency, p. 1493-1504.
Birhane, A., Prabhu, V. U. (2021) "Large image datasets: A pyrrhic win for computer vision?" In: 2021 IEEE Winter Conference on Applications of Computer Vision (WACV), p. 1536-1546.
Cho, J., Zala, A., Bansal, M. (2023) "Dall-eval: Probing the reasoning skills and social biases of text-to-image generation models." In: Proceedings of the IEEE/CVF International Conference on Computer Vision, p. 3043-3054.
G1 (2024) Google pausa geração de imagens do Gemini após IA apresentar erros raciais e históricos. Disponível em: https://g1.globo.com/tecnologia/noticia/2024/02/22/google-pausa-geracao-deimagens-do-gemini-apos-ia-apresentar-erros-raciais-e-historicos.ghtml. Acesso em: 19 de jun. 2024
Gutiérrez, F. (2012) "More than 200 years of Latino media in the United States." In: American Latinos and the Making of the United States: a theme study. Gutiérrez, R., Gutiérrez, D., Kanellos, N.,Gutiérrez, F. Washington, DC: National Park Service, p. 99-121.
IBGE PNAD Contínua Trimestral (2020) Instituto Brasileiro de Geografia e Estatística. Pesquisa Nacional por Amostra de Domicílios Contínua Trimestral. Disponível em: https://www.ibge.gov.br/estatisticas/sociais/trabalho/9171-pesquisa-nacional-poramostra-de-domicilios-continua-mensal.html. Acesso em: 28 set. 2023.
ONU Mulheres (2022) Organização das Nações Unidas Mulheres. TODXS: o mapa da representatividade na publicidade brasileira. 10a onda. Disponível em: https://www.onumulheres.org.br/wp-content/uploads/2022/03/UA_TODXS10_FinalPORT.pdf. Acesso em: 29 jan. 2024.
Shankar, S., Halpern, Y., Breck, E., Atwood, J., Wilson, J., Sculley, D. (2017) "No classification without representation: Assessing geodiversity issues in open data sets for the developing world". arXiv preprint arXiv:1711.08536.
Unesco (2022) The Effects of AI on the Working Lives of Women. United Nations Educational, Scientific and Cultural Organization.
Zhang, C., Zhang, C., Zhang, M., Kweon, I. S. (2023) "Text-to-image diffusion model in generative ai: A survey", arXiv preprint arXiv:2303.07909.
Zou, J., Schiebinger, L. (2018) "AI can be sexist and racist—it’s time to make it fair". Nature, v. 559, p. 324-326. DOI: https://doi.org/10.1038/d41586-018-05707-8.
Bianchi, F., Kalluri, P., Durmus, E., Ladhak, F., Cheng, M., Nozza, D.; ... and Caliskan, A. (2023) "Easily accessible text-to-image generation amplifies demographic stereotypes at large scale". In: Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency, p. 1493-1504.
Birhane, A., Prabhu, V. U. (2021) "Large image datasets: A pyrrhic win for computer vision?" In: 2021 IEEE Winter Conference on Applications of Computer Vision (WACV), p. 1536-1546.
Cho, J., Zala, A., Bansal, M. (2023) "Dall-eval: Probing the reasoning skills and social biases of text-to-image generation models." In: Proceedings of the IEEE/CVF International Conference on Computer Vision, p. 3043-3054.
G1 (2024) Google pausa geração de imagens do Gemini após IA apresentar erros raciais e históricos. Disponível em: https://g1.globo.com/tecnologia/noticia/2024/02/22/google-pausa-geracao-deimagens-do-gemini-apos-ia-apresentar-erros-raciais-e-historicos.ghtml. Acesso em: 19 de jun. 2024
Gutiérrez, F. (2012) "More than 200 years of Latino media in the United States." In: American Latinos and the Making of the United States: a theme study. Gutiérrez, R., Gutiérrez, D., Kanellos, N.,Gutiérrez, F. Washington, DC: National Park Service, p. 99-121.
IBGE PNAD Contínua Trimestral (2020) Instituto Brasileiro de Geografia e Estatística. Pesquisa Nacional por Amostra de Domicílios Contínua Trimestral. Disponível em: https://www.ibge.gov.br/estatisticas/sociais/trabalho/9171-pesquisa-nacional-poramostra-de-domicilios-continua-mensal.html. Acesso em: 28 set. 2023.
ONU Mulheres (2022) Organização das Nações Unidas Mulheres. TODXS: o mapa da representatividade na publicidade brasileira. 10a onda. Disponível em: https://www.onumulheres.org.br/wp-content/uploads/2022/03/UA_TODXS10_FinalPORT.pdf. Acesso em: 29 jan. 2024.
Shankar, S., Halpern, Y., Breck, E., Atwood, J., Wilson, J., Sculley, D. (2017) "No classification without representation: Assessing geodiversity issues in open data sets for the developing world". arXiv preprint arXiv:1711.08536.
Unesco (2022) The Effects of AI on the Working Lives of Women. United Nations Educational, Scientific and Cultural Organization.
Zhang, C., Zhang, C., Zhang, M., Kweon, I. S. (2023) "Text-to-image diffusion model in generative ai: A survey", arXiv preprint arXiv:2303.07909.
Zou, J., Schiebinger, L. (2018) "AI can be sexist and racist—it’s time to make it fair". Nature, v. 559, p. 324-326. DOI: https://doi.org/10.1038/d41586-018-05707-8.
Publicado
27/11/2024
Como Citar
SANCHES, Danielle; ZAMPRONIO, Renata; MEDEIROS, Maria Carolina.
A Mulher Latina na IA Generativa: desafios de representação e vieses sociais. In: CONFERÊNCIA LATINO-AMERICANA DE ÉTICA EM INTELIGÊNCIA ARTIFICIAL, 1. , 2024, Niteroi.
Anais [...].
Porto Alegre: Sociedade Brasileira de Computação,
2024
.
p. 89-92.
DOI: https://doi.org/10.5753/laai-ethics.2024.32459.
