Mecanismos de Avaliação de Segurança de Large Language Models (LLMs): Uma Análise Comparativa Entre Ferramentas Modernas

• Emilly Stephanny Silva UDESC
• Isabela Kremp Narciso UDESC
• Milton P. Pagliuso Neto UDESC
• Marcos A. Simplicio Jr USP
• Victor T. Hayashi USP
• Charles C. Miers UDESC

DOI: https://doi.org/10.5753/errc.2026.36332

Resumo

Com o uso de LLMs difundido em cada vez mais espaços, possibilitando análises, traduções e geração de conteúdo dos mais diversos tipos. Além de trazer consigo benesses, também emergiu com eventuais riscos. Os treinamentos aplicados nesses modelos não os blindam contra todos os possíveis ataques. Como forma de avaliar o alinhamento seguro dessas LLMs, red teams elaboram ferramentas de ataque automatizadas que possibilitam a avaliação da robustez desses modelos. Este estudo propõe a realização de uma análise comparativa qualitativa entre ferramentas de ataque automatizado de red teaming desenvolvidas especificamente para a avaliação de LLMs (SafeProbe, Python Risk Identification Toolkit (PyRIT), Generative AI Red-Teaming and Assessment Kit (GARAK), AI Robustness Evaluation System (ARES) e PromptFoo), permitindo compreender suas principais diferenças.

Referências

Derczynski, L., Galinkin, E., Martin, J., Majumdar, S., and Inie, N. (2024). garak: A framework for security probing large language models. arXiv preprint arXiv:2406.11036. Acesso em: 2 set. 2026.

IBM DRL Security Team (2025). Ai robustness evaluation system (ares). [link]. Acesso em: 10 out. 2026.

Mao, Y., Liu, P., Cui, T., Liu, C., Xing, M., and You, D. (2026). Stop fixating on prompts: Reasoning hijacking and constraint tightening for red-teaming llm agents. In Proceedings of the 64th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers). 64th Annual Meeting of the Association for Computational Linguistics. Acesso em: 2 set. 2026.

Microsoft, A. R. T. (2026). Pyrit documentation: The python risk identification tool for generative ai. [link]. Acesso em: 1 set. 2026.

Miers, C., Simplicio, M., Roja, M., Oliveira, D., Pagliuso, M., Damin, F., Bulla, R., and Hayashi, V. (2024). Ferramentas de jailbreaking para grandes modelos de línguas – aprendizado de máquina no contexto adversário. Minicursos do XXIV Simpósio Brasileiro de Segurança da Informação e de Sistemas Computacionais, page p. 49–91. Acesso em: 2 set. 2026.

Neto, M. P. P. (2026). Safeprobe: a python toolkit for probing the safety alignment of large language models. Master’s thesis, UDESC. Acesso em: 2 set. 2026.

Promptfoo (2026). Red teaming. [link]. Acesso em: 1 set. 2026.

Vassilev, A., Oprea, A., Fordyce, A., Anderson, H., Davies, X., and Hamin, M. (2025). Adversarial machine learning: A taxonomy and terminology of attacks and mitigations. NIST Technical Series Publication NIST AI 100-2e2025, National Institute of Standards and Technology, Gaithersburg, MD. Acesso em: 2 set. 2026.

Yu, G., Wang, Y., Wang, Z., Chen, L., Zheng, Y., and Liu, Y. (2026). Llms in industrial domains: A systematic review of adaptation techniques and applications from the product lifecycle perspective. Advanced Engineering Informatics, 74:104655.

Yuan, S., Luo, N., Sun, J., Huang, Y., and Zhang, C. (2026). Red teaming llms via linguistic-aware fuzzing. Proc. ACM Softw. Eng., 3(FSE). Acesso em: 2 set. 2026.

Yulianto, S., Soewito, B., Gaol, F. L., and Kurniawan, A. (2025). Enhancing cybersecurity resilience through advanced red-teaming exercises and MITRE ATT&CK framework integration: A paradigm shift in cybersecurity assessment. Cyber Security and Applications, 3:100077.