Mecanismo para Mitigar Ataques de Envenenamento de Modelo no Aprendizado Federado - Morais, Marcos G. O.; Costa, Joahannes B. D. da; Gonzalez, Luis F. G.; Souza, Allan M. de; Villas, Leandro A. (Anais do Workshop de Computação Urbana (CoUrb); 2024: Anais do VIII Workshop de Computação Urbana, 2024)
O Federated Learning (FL) é uma técnica distribuída para treinamento de modelos de aprendizado de máquina, em que os dados são processados localmente e apenas parâmetros locais são compartilhados com um servidor de agregação. O fato de que os dados dos clientes são mantidos localmente torna a tarefa de validar os seu parâmetros uma tarefa extremamente difícil, abrindo portas para possíveis ataques de clientes mal intencionados. Esses atacantes influenciam deliberadamente o treinamento, invalidando o modelo resultante, fazendo injeção de dados e até mesmo manipulando os parâmetros dos modelos. Sendo assim, este trabalho apresenta o RAGNAR que se utiliza de métricas calculadas durante o treinamento, para mitigar em tempo real ataques no ambiente de FL. Além disso, o RAGNAR emprega uma estratégia de agregação dos parâmetros de clientes que se adapta dinamicamente, com o objetivo de lidar com a situação atual. Avaliações experimentais demonstram que o RAGNAR reduz significativamente a perda de acurácia (31%) dos clientes participantes do treinamento e mantém bons níveis de acurácia (98%).