Defendendo Modelos de Aprendizado de Máquina: Estratégias de Detecção de Anomalias Contra Ataques de Envenenamento - Hipolito, Livia; Lopes, Amanda; Clipes, Manoel; Bastos, Lucas (Anais da Escola Regional de Informática Norte 2 (ERIN 2); 2025: Anais da XVIII Escola Regional de Informática Norte 2DO - 10.5753/erin.2025.16049, 2025)
Este trabalho apresenta o framework de defesa GAIA, desenvolvido para detectar e mitigar ataques de envenenamento por parâmetros aleatórios em Aprendizado Federado (FL). Tais ataques, os quais envolvem a submissão de tensores com valores aleatórios por agentes maliciosos, comprometem a integridade e a acurácia dos modelos globais. A metodologia utiliza as normas vetoriais L1 e L2 para extrair características das atualizações de modelo. As atualizações de clientes benignos seguem padrões estatisticos consistentes, enquanto as de atacantes exibem distribuições divergentes. A análise dessas assinaturas permite ao servidor de agregação identificar atualizações maliciosas e garantir a estabilidade e precisão do modelo federado. Por meio de demonstração experimental, a eficácia da estrutura proposta foi validada ao atingir 40% de acurácia, o que representa um aumento de mais de 30% em relação ao modelo sem defesa.