IA burlada: elaboração de prompts maliciosos no ChatGPT e seus impactos para a sociedade
Resumo
A crescente ubiquidade da inteligência artificial na sociedade moderna traz consigo uma série de desafios éticos e sociais. Este artigo aborda especificamente a questão dos prompts maliciosos em chatbots, focando no ChatGPT como estudo de caso. Ao explorar a elaboracão e o uso desses prompts, revelamos pontos críticos que podem resultar em impactos adversos significativos para a sociedade. Analisamos como entradas maliciosas podem induzir comportamentos prejudiciais, disseminar desinformação, promover discriminação e até mesmo facilitar atividades ile gais. Ao destacar esses problemas, destacamos a urgência de implementar me didas para mitigar esses riscos e promover o uso ético e responsável da IA em chats e outras aplicações.
Referências
ALTHUSSER, L. (1985) Aparelhos Ideológicos do Estado: nota sobre aparelhos ideológicos do Estado. Rio de Janeiro: Edições Graal.
CRAWFORD, K., & Calo, R. (2016). There is a blind spot in AI research. Nature, 538(7625), 311-313.
DWORK, C., & ROTH, A. (2014). The algorithmic foundations of differential privacy. DERNER, Erik; BATISTIČ, Kristina. (2023) Beyond the Safeguards: Exploring the Security Risks of ChatGPT. arXiv preprint arXiv:2305.08005.
GEBRU, T., MORGENSTERN, J., VECCHIONE, B., VAUGHAN, J. W., WALLACH, H., DAUMÉ III, H., & CRAWFORD, K. (2018). Datasheets for Datasets. arXiv preprint arXiv:1803.09010.
KASNECI, Enkelejda et al. (2023) ChatGPT for good? On opportunities and challenges of large language models for education. Learning and Individual Differences, v. 103, p. 102274.
MACHADO, Bruna. Inteligência artificial não é bagunça. Estas práticas podem te fazer ser banido do ChatGPT! Capitalist.com.br. 31/05/2023. Você pode ser banido do ChatGPT: como evitar perder o acesso à IA (capitalist.com.br). Disponível em: [link]. Acesso em 31/07/2023.
OS USUÁRIOS COMEÇARAM A ENGANAR MASSIVAMENTE O CHATGPT PARA OBTER INFORMAÇÕES PROIBIDAS DO CHATGPT. Avalanche Notícias, 2023. Disponível em: [link]. Acesso em: 31/07/2023.
SANTAELLA, Lucia. (2020) A pós-verdade é verdadeira ou falsa?. Editora estação das letras e cores.
SYOZI, Ricardo. É possível usar o ChatGPT para driblar os limites do próprio ChatGPT? Tecnoblog.net. Disponível em: [link]. Acesso em 31/07/2023.
TAMAYO, M. (2007) El proceso de la investigación científica. Limusa Noriega Editores.
FISHER, Max. (2023) A máquina do caos. Como as redes sociais reprogramaram nossa mente e nosso mundo. 1. ed. São Paulo: Todavia.
ANONIMO (2024). [Material suplementar] Tratativas entre pesquisador e GPT. figshare. Conference contribution. DOI: 10.6084/m9.figshare.25505836.v2
CRAWFORD, K., & Calo, R. (2016). There is a blind spot in AI research. Nature, 538(7625), 311-313.
DWORK, C., & ROTH, A. (2014). The algorithmic foundations of differential privacy. DERNER, Erik; BATISTIČ, Kristina. (2023) Beyond the Safeguards: Exploring the Security Risks of ChatGPT. arXiv preprint arXiv:2305.08005.
GEBRU, T., MORGENSTERN, J., VECCHIONE, B., VAUGHAN, J. W., WALLACH, H., DAUMÉ III, H., & CRAWFORD, K. (2018). Datasheets for Datasets. arXiv preprint arXiv:1803.09010.
KASNECI, Enkelejda et al. (2023) ChatGPT for good? On opportunities and challenges of large language models for education. Learning and Individual Differences, v. 103, p. 102274.
MACHADO, Bruna. Inteligência artificial não é bagunça. Estas práticas podem te fazer ser banido do ChatGPT! Capitalist.com.br. 31/05/2023. Você pode ser banido do ChatGPT: como evitar perder o acesso à IA (capitalist.com.br). Disponível em: [link]. Acesso em 31/07/2023.
OS USUÁRIOS COMEÇARAM A ENGANAR MASSIVAMENTE O CHATGPT PARA OBTER INFORMAÇÕES PROIBIDAS DO CHATGPT. Avalanche Notícias, 2023. Disponível em: [link]. Acesso em: 31/07/2023.
SANTAELLA, Lucia. (2020) A pós-verdade é verdadeira ou falsa?. Editora estação das letras e cores.
SYOZI, Ricardo. É possível usar o ChatGPT para driblar os limites do próprio ChatGPT? Tecnoblog.net. Disponível em: [link]. Acesso em 31/07/2023.
TAMAYO, M. (2007) El proceso de la investigación científica. Limusa Noriega Editores.
FISHER, Max. (2023) A máquina do caos. Como as redes sociais reprogramaram nossa mente e nosso mundo. 1. ed. São Paulo: Todavia.
ANONIMO (2024). [Material suplementar] Tratativas entre pesquisador e GPT. figshare. Conference contribution. DOI: 10.6084/m9.figshare.25505836.v2
Publicado
21/07/2024
Como Citar
PAIVA, João; CHAGAS, Jessé das; ALBUQUERQUE, Danyllo; RODRIGUES, Golbery.
IA burlada: elaboração de prompts maliciosos no ChatGPT e seus impactos para a sociedade. In: WORKSHOP SOBRE AS IMPLICAÇÕES DA COMPUTAÇÃO NA SOCIEDADE (WICS), 5. , 2024, Brasília/DF.
Anais [...].
Porto Alegre: Sociedade Brasileira de Computação,
2024
.
p. 132-144.
ISSN 2763-8707.
DOI: https://doi.org/10.5753/wics.2024.2855.
