IA burlada: elaboração de prompts maliciosos no ChatGPT e seus impactos para a sociedade - Paiva, João; Chagas, Jessé das; Albuquerque, Danyllo; Rodrigues, Golbery (Anais do Workshop sobre as Implicações da Computação na Sociedade (WICS), 2024)
A crescente ubiquidade da inteligência artificial na sociedade moderna traz consigo uma série de desafios éticos e sociais. Este artigo aborda especificamente a questão dos prompts maliciosos em chatbots, focando no ChatGPT como estudo de caso. Ao explorar a elaboracão e o uso desses prompts, revelamos pontos críticos que podem resultar em impactos adversos significativos para a sociedade. Analisamos como entradas maliciosas podem induzir comportamentos prejudiciais, disseminar desinformação, promover discriminação e até mesmo facilitar atividades ile gais. Ao destacar esses problemas, destacamos a urgência de implementar me didas para mitigar esses riscos e promover o uso ético e responsável da IA em chats e outras aplicações.