Uma Análise Sistemática da Estrutura Mecanística de Backdoors em LLMs - Canto, Gabriel Sousa; Feitosa, Eduardo Luzeiro (Anais do Simpósio Brasileiro de Cibersegurança (SBSeg), 2026)
Neste trabalho, realizamos uma análise mecanística sistemática de backdoors em LLMs utilizando técnicas de interpretabilidade, incluindo attribution patching e Sparse Autoencoders (SAEs). Avaliamos quatro modelos Llama-2-7B com gatilhos lexicais, contextuais e temporais. Os resultados mostram que, em três dos quatro casos, os mecanismos de backdoor concentram-se nas camadas finais do modelo e podem ser significativamente suprimidos pela ablação de poucas features SAE, reduzindo o ASR em até 91%. Também observamos que backdoors temporais apresentam comportamento mais distribuído e difícil de localizar. Os resultados indicam que backdoors podem deixar assinaturas internas interpretáveis, contribuindo para o desenvolvimento de métodos mais robustos e interpretáveis de detecção e mitigação em LLMs.