Avaliação de Táticas de Red Teaming Automatizado em Modelos de Linguagem de Pequeno Porte (SLMs) - Silva, Martony Demes da; Alencar, Guilherme Henrique Vieira de; Macedo, Cleonildo Macedo de (Anais Estendidos do Simpósio Brasileiro de Cibersegurança (SBSeg); 2026: Anais Estendidos do XXVI Simpósio Brasileiro de Cibersegurança, 2026)
Modelos de Linguagem de Pequeno Porte (SLMs) enfrentam crescentes desafios de segurança relacionados a ataques de injeção de prompt. Este trabalho apresenta uma avaliação empírica automatizada de táticas de red teaming aplicadas aos modelos Qwen2.5-1.5B-Instruct e SmolLM2-1.7B-Instruct. Utilizando um classificador especializado (DistilBERT) como juiz automatizado, foram avaliados 60 vetores de ataque divididos em quatro categorias. Os resultados apontam uma Taxa de Sucesso de Ataque (ASR) global de 45,00% para o Qwen2.5 e 61,67% para o SmolLM2, evidenciando variações significativas de resiliência no alinhamento pós-treinamento entre as arquiteturas.