Ética na era dos Modelos de Linguagem Massivos (LLMs): um estudo de caso do ChatGPT
Resumo
Este artigo tem como objetivo discutir questões éticas relacionadas ao ChatGPT, um modelo de linguagem de estilo conversacional. A partir de trabalhos correlatos que fundamentam o conceito de Modelos de Linguagem Massivos (LLMs) e que trabalham paradigmas de análise ética e boas práticas para o desenvolvimento de Inteligências Artificiais (IA), exploramos como o ChatGPT perpetua problemas já reconhecidos de LLMs e observamos que sua maior capacidade de generalização aumenta perigos de enviesamento e preconceito. Concluímos reforçando apelos por maiores incentivos à diminuição de esforços por maiores modelos, em favor de esforços por bases de dados melhor documentadas, modelos interpretáveis e por abordagens voltadas ao entendimento de linguagem.
Referências
Abid, A., Farooqi, M., and Zou, J. (2021). Persistent anti-muslim bias in large language models. CoRR, abs/2101.05783.
Adorno, J. (2023). Chatgpt in microsoft bing goes off the rails, spews depressive nonsense. BGR. Disponível em: [link].
Bender, E. M., Gebru, T., McMillan-Major, A., and Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? In Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, FAccT '21, page 610-623, New York, NY, USA. Association for Computing Machinery.
Bender, E. M. and Koller, A. (2020). Climbing towards NLU: On meaning, form, and understanding in the age of data. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pages 5185-5198, Online. Association for Computational Linguistics.
Brundage, M., Avin, S., Wang, J., Belfield, H., Krueger, G., Hadfield, G., Khlaaf, H., Yang, J., Toner, H., Fong, R., Maharaj, T., Koh, P. W., Hooker, S., Leung, J., Trask, A., Bluemke, E., Lebensold, J., O'Keefe, C., Koren, M., Ryffel, T., Rubinovitz, J., Besiroglu, T., Carugati, F., Clark, J., Eckersley, P., de Haas, S., Johnson, M., Laurie, B., Ingerman, A., Krawczuk, I., Askell, A., Cammarota, R., Lohn, A., Krueger, D., Stix, C., Henderson, P., Graham, L., Prunkl, C., Martin, B., Seger, E., Zilberman, N., hÉigeartaigh, S., Kroeger, F., Sastry, G., Kagan, R., Weller, A., Tse, B., Barnes, E., Dafoe, A., Scharre, P., Herbert-Voss, A., Rasser, M., Sodhani, S., Flynn, C., Gilbert, T. K., Dyer, L., Khan, S., Bengio, Y., and Anderljung, M. (2020). Toward trustworthy ai development: Mechanisms for supporting verifiable claims. Technical report, Misc. Disponível em: https://arxiv.org/abs/2004.07213.
Milmo, D. (2023). Chatgpt reaches 100 million users two months after launch. The Guardian. Disponível em: [link].
Olson, E. (2023). Google shares drop $100 billion after its new ai chatbot makes a mistake. NPR. Disponível em: [link].
OpenAI (2022). Chatgpt: Optimizing language models for dialogue. OpenAI. Disponível em: https://openai.com/blog/chatgpt/.
Ouyang, L., Wu, J., Jiang, X., Almeida, D., Wainwright, C. L., Mishkin, P., Zhang, C., Agarwal, S., Slama, K., Ray, A., Schulman, J., Hilton, J., Kelton, F., Miller, L., Simens, M., Askell, A., Welinder, P., Christiano, P., Leike, J., and Lowe, R. (2022). Training language models to follow instructions with human feedback. Technical report, OpenAI. Disponível em: https://arxiv.org/abs/2203.02155.
Perrigo, B. (2023). Exclusive: OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic. Time. Disponível em: [link].
Romani, B. (2023). Chatgpt é 'aprovado' em prova da primeira fase da oab. ESTADÃO. Disponível em: [link].
Adorno, J. (2023). Chatgpt in microsoft bing goes off the rails, spews depressive nonsense. BGR. Disponível em: [link].
Bender, E. M., Gebru, T., McMillan-Major, A., and Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? In Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, FAccT '21, page 610-623, New York, NY, USA. Association for Computing Machinery.
Bender, E. M. and Koller, A. (2020). Climbing towards NLU: On meaning, form, and understanding in the age of data. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pages 5185-5198, Online. Association for Computational Linguistics.
Brundage, M., Avin, S., Wang, J., Belfield, H., Krueger, G., Hadfield, G., Khlaaf, H., Yang, J., Toner, H., Fong, R., Maharaj, T., Koh, P. W., Hooker, S., Leung, J., Trask, A., Bluemke, E., Lebensold, J., O'Keefe, C., Koren, M., Ryffel, T., Rubinovitz, J., Besiroglu, T., Carugati, F., Clark, J., Eckersley, P., de Haas, S., Johnson, M., Laurie, B., Ingerman, A., Krawczuk, I., Askell, A., Cammarota, R., Lohn, A., Krueger, D., Stix, C., Henderson, P., Graham, L., Prunkl, C., Martin, B., Seger, E., Zilberman, N., hÉigeartaigh, S., Kroeger, F., Sastry, G., Kagan, R., Weller, A., Tse, B., Barnes, E., Dafoe, A., Scharre, P., Herbert-Voss, A., Rasser, M., Sodhani, S., Flynn, C., Gilbert, T. K., Dyer, L., Khan, S., Bengio, Y., and Anderljung, M. (2020). Toward trustworthy ai development: Mechanisms for supporting verifiable claims. Technical report, Misc. Disponível em: https://arxiv.org/abs/2004.07213.
Milmo, D. (2023). Chatgpt reaches 100 million users two months after launch. The Guardian. Disponível em: [link].
Olson, E. (2023). Google shares drop $100 billion after its new ai chatbot makes a mistake. NPR. Disponível em: [link].
OpenAI (2022). Chatgpt: Optimizing language models for dialogue. OpenAI. Disponível em: https://openai.com/blog/chatgpt/.
Ouyang, L., Wu, J., Jiang, X., Almeida, D., Wainwright, C. L., Mishkin, P., Zhang, C., Agarwal, S., Slama, K., Ray, A., Schulman, J., Hilton, J., Kelton, F., Miller, L., Simens, M., Askell, A., Welinder, P., Christiano, P., Leike, J., and Lowe, R. (2022). Training language models to follow instructions with human feedback. Technical report, OpenAI. Disponível em: https://arxiv.org/abs/2203.02155.
Perrigo, B. (2023). Exclusive: OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic. Time. Disponível em: [link].
Romani, B. (2023). Chatgpt é 'aprovado' em prova da primeira fase da oab. ESTADÃO. Disponível em: [link].
Publicado
11/04/2023
Como Citar
FIGÊNIO, Mateus R.; GOMES-JR, Luiz.
Ética na era dos Modelos de Linguagem Massivos (LLMs): um estudo de caso do ChatGPT. In: ESCOLA REGIONAL DE BANCO DE DADOS (ERBD), 18. , 2023, Palmas/PR.
Anais [...].
Porto Alegre: Sociedade Brasileira de Computação,
2023
.
p. 100-107.
ISSN 2595-413X.
DOI: https://doi.org/10.5753/erbd.2023.229510.
