NoobGPT: LLMs e a geração de malwares indetectáveis - Carvalho, Gustavo Lofrese; Ladeira, Ricardo de la Rocha; Lima, Gabriel Eduardo (Anais do Workshop de Sistemas de Informação (WSIS); 2025: Anais do XVI Workshop de Sistemas de InformaçãoDO - 10.5753/wsis.2025.15064, 2025)
Este artigo explora a capacidade do modelo de linguagem ChatGPT gerar malwares por meio de instruções conhecidas como jailbreaks, amplamente divulgados na internet. A pesquisa simula o uso por um usuário leigo, sem conhecimento técnico em cibersegurança, e avalia os códigos maliciosos gerados quanto à sua funcionalidade e detecção por softwares de segurança. Os testes mostraram que é possível obter diferentes tipos de malware, com a maioria sendo indetectável já nas primeiras interações. Observou-se também que os mecanismos de segurança, embora presentes, podem ser contornados. Os resultados levantam preocupações sobre o uso indevido de LLMs e os limites atuais das ferramentas de proteção digital.