Detecção e Mitigação de Ataques de Inversão de Rótulos em Modelos Compactados e Privados no Aprendizado Federado - C. Batista, João Pedro; Schmitz Bastos, Johann J.; dos Reis Fontes, Ramon; Cerqueira, Eduardo; F. S. Mota, Vinícius; S. Villaça, Rodolfo (Anais do Simpósio Brasileiro de Redes de Computadores e Sistemas Distribuídos (SBRC), 2025)
Este artigo propõe uma técnica para detectar clientes maliciosos que realizam ataques de inversão de rótulo (label flipping) durante o treinamento de modelos de Aprendizado Federado (FL). O objetivo é identificar clientes maliciosos que manipulam rótulos de dados, mesmo com modelos locais compactados e privados por meio da aplicação de privacidade diferencial. O vetor de pesos da última camada de ativação da rede neural é usado para detectar comportamentos anômalos desses clientes, preservando a privacidade dos dados. A solução foi avaliada em diferentes conjuntos de dados, como MNIST e Fashion-MNIST, e no emulador MininetFed. Os resultados mostram que a proposta foi eficaz na detecção e neutralização de ataques, mesmo em cenários onde até 40% dos clientes na rede eram maliciosos.