Vieses em Histórias Ficcionais no ChatGPT
Resumo
O uso de chatbots, como ChatGPT, Gemini e Copilot, cresceu desde 2022, possibilitando tarefas avançadas, como traduções e revisões de textos e códigos. No entanto, estudos revelam que esses modelos de IA generativa apresentam vieses, especialmente sociais e culturais, que reforçam estereótipos de gênero e associações preconceituosas a grupos minoritários. O experimento realizado neste estudo avaliou a capacidade de identificação de vieses no ChatGPT, criando sinopses de histórias para identificar vieses sociais por meio de engenharia de prompts. Especialistas analisaram os resultados, que mostraram uma leve melhoria na detecção de vieses com prompts mais elaborados. Este estudo destaca a necessidade de soluções de IA que produzam conteúdos mais diversos e menos enviesados.Referências
Abdullah, M., Madain, A., and Jararweh, Y. (2022). Chatgpt: Fundamentals, applications and social impacts. In 2022 Ninth International Conference on Social Networks Analysis, Management and Security (SNAMS), pages 1–8. IEEE.
Chandler, D. (2022). Semiotics: the basics. Routledge.
de Lima, E. S., Feijó, B., Casanova, M. A., and Furtado, A. L. (2016). Storytelling variants based on semiotic relations. Entertainment Computing, 17:31–44.
De Lima, E. S., Feijó, B., Cassanova, M. A., and Furtado, A. L. (2023). Chatgeppetto-an ai-powered storyteller. In Proceedings of the 22nd Brazilian Symposium on Games and Digital Entertainment, pages 28–37.
Ferrara, E. (2023). Should chatgpt be biased? challenges and risks of bias in large language models. arXiv preprint arXiv:2304.03738.
Krippendorff, K. (2011). Agreement and information in the reliability of coding. communication methods and measures, 5 (2), 93-112.
Mirowski, P., Mathewson, K. W., Pittman, J., and Evans, R. (2023). Co-writing screen-plays and theatre scripts with language models: Evaluation by industry professionals. In Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems, pages 1–34.
Ribeiro, T. M., Siqueira, S. W., and de Bayser, M. G. (2024). Revisao rápida sobre vieses em chatbots-uma análise sobre tipos de vieses, impactos e formas de lidar. Anais do XIX Simpósio Brasileiro de Sistemas Colaborativos, pages 56–70.
Shawar, B. A. and Atwell, E. (2007). Chatbots: are they really useful? Journal for Language Technology and Computational Linguistics, 22(1):29–49.
Taveekitworachai, P., Gursesli, M. C., Abdullah, F., Chen, S., Cala, F., Guazzini, A., Lanata, A., and Thawonmas, R. (2023). Journey of chatgpt from prompts to stories in games: the positive, the negative, and the neutral. In 2023 IEEE 13th International Conference on Consumer Electronics-Berlin (ICCE-Berlin), pages 202–203. IEEE.
Wei, J., Wang, X., Schuurmans, D., Bosma, M., Xia, F., Chi, E., Le, Q. V., Zhou, D., et al. (2022). Chain-of-thought prompting elicits reasoning in large language models. Advances in neural information processing systems, 35:24824–24837.
Chandler, D. (2022). Semiotics: the basics. Routledge.
de Lima, E. S., Feijó, B., Casanova, M. A., and Furtado, A. L. (2016). Storytelling variants based on semiotic relations. Entertainment Computing, 17:31–44.
De Lima, E. S., Feijó, B., Cassanova, M. A., and Furtado, A. L. (2023). Chatgeppetto-an ai-powered storyteller. In Proceedings of the 22nd Brazilian Symposium on Games and Digital Entertainment, pages 28–37.
Ferrara, E. (2023). Should chatgpt be biased? challenges and risks of bias in large language models. arXiv preprint arXiv:2304.03738.
Krippendorff, K. (2011). Agreement and information in the reliability of coding. communication methods and measures, 5 (2), 93-112.
Mirowski, P., Mathewson, K. W., Pittman, J., and Evans, R. (2023). Co-writing screen-plays and theatre scripts with language models: Evaluation by industry professionals. In Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems, pages 1–34.
Ribeiro, T. M., Siqueira, S. W., and de Bayser, M. G. (2024). Revisao rápida sobre vieses em chatbots-uma análise sobre tipos de vieses, impactos e formas de lidar. Anais do XIX Simpósio Brasileiro de Sistemas Colaborativos, pages 56–70.
Shawar, B. A. and Atwell, E. (2007). Chatbots: are they really useful? Journal for Language Technology and Computational Linguistics, 22(1):29–49.
Taveekitworachai, P., Gursesli, M. C., Abdullah, F., Chen, S., Cala, F., Guazzini, A., Lanata, A., and Thawonmas, R. (2023). Journey of chatgpt from prompts to stories in games: the positive, the negative, and the neutral. In 2023 IEEE 13th International Conference on Consumer Electronics-Berlin (ICCE-Berlin), pages 202–203. IEEE.
Wei, J., Wang, X., Schuurmans, D., Bosma, M., Xia, F., Chi, E., Le, Q. V., Zhou, D., et al. (2022). Chain-of-thought prompting elicits reasoning in large language models. Advances in neural information processing systems, 35:24824–24837.
Publicado
02/06/2025
Como Citar
RIBEIRO, Thiago M. R.; SIQUEIRA, Sean W. M.; BAYSER, Maira G. de.
Vieses em Histórias Ficcionais no ChatGPT. In: CONCURSO DE TESES, DISSERTAÇÕES E TCCS EM SISTEMAS COLABORATIVOS - SIMPÓSIO BRASILEIRO DE SISTEMAS COLABORATIVOS (SBSC), 20. , 2025, Manaus/AM.
Anais [...].
Porto Alegre: Sociedade Brasileira de Computação,
2025
.
p. 139-149.
DOI: https://doi.org/10.5753/sbsc_estendido.2025.8585.
