Mitigação de Ataques “Label-Flipping” no Aprendizado Federado: Experimentos e Estratégias de Seleção de Clientes
Resumo
Este artigo investiga os desafios que afetam a eficácia dos modelos no contexto do Aprendizado Federado, especialmente devido à presença de clientes maliciosos que realizam ataques como o label-flipping. Utilizando o ambiente MininetFed, são conduzidos experimentos detalhados para avaliar o impacto desses clientes e a eficácia de diversas estratégias de seleção e algoritmos de clusterização na mitigação desses ataques específicos. Os resultados obtidos fornecem insights fundamentais para fortalecer a segurança do processo de treinamento e proteger adequadamente os modelos no Aprendizado Federado contra ameaças internas.
Referências
Alves, V. R. M. et al. (2024). Seleção de clientes adaptativa baseada em privacidade diferencial para aprendizado federado. In SIMPÓSIO BRASILEIRO DE REDES DE COMPUTADORES E SISTEMAS DISTRIBUÍDOS (SBRC).
Bastos, J. J. S. et al. (2024). Mininetfed: Uma ferramenta para emulação e análise de aprendizado federado com dispositivos heterogêneos. In SIMPÓSIO BRASILEIRO DE REDES DE COMPUTADORES E SISTEMAS DISTRIBUÍDOS (SBRC).
de Souza, A. M. et al. (2023). Dispositivos, eu escolho vocês: Seleção de clientes adaptativa para comunicação eficiente em aprendizado federado. In SIMPÓSIO BRASILEIRO DE REDES DE COMPUTADORES E SISTEMAS DISTRIBUÍDOS (SBRC).
Jebreel, N. M., Domingo-Ferrer, J., Sánchez, D., and Blanco-Justicia, A. (2022a). Defending against the label-flipping attack in federated learning.
Jebreel, N. M. et al. (2022b). Lfighter: Defending against the label-flipping attack in federated learning. In Neural Networks. Elsevier.
Jiang, Y., Zhang, W., and Chen, Y. (2023). Data quality detection mechanism against label flipping attacks in federated learning. IEEE Transactions on Information Forensics and Security, 18:1625–1637.
Li, D., Wong, W. E., Wang, W., Yao, Y., and Chau, M. (2021). Detection and mitigation of label-flipping attacks in federated learning systems with kpca and k-means. In 2021 8th International Conference on Dependable Systems and Their Applications (DSA), pages 551–559.
Mammen, P. M. (2021). Federated learning: Opportunities and challenges. In Proceedings of ACM Conference (Conference’17). ACM.
Tolpegin, V., Truex, S., Gursoy, M. E., and Liu, L. (2020). Data poisoning attacks against federated learning systems.
Wang, T. et al. (2022). Federated learning framework based on trimmed mean aggregation rules. SSRN.
Bastos, J. J. S. et al. (2024). Mininetfed: Uma ferramenta para emulação e análise de aprendizado federado com dispositivos heterogêneos. In SIMPÓSIO BRASILEIRO DE REDES DE COMPUTADORES E SISTEMAS DISTRIBUÍDOS (SBRC).
de Souza, A. M. et al. (2023). Dispositivos, eu escolho vocês: Seleção de clientes adaptativa para comunicação eficiente em aprendizado federado. In SIMPÓSIO BRASILEIRO DE REDES DE COMPUTADORES E SISTEMAS DISTRIBUÍDOS (SBRC).
Jebreel, N. M., Domingo-Ferrer, J., Sánchez, D., and Blanco-Justicia, A. (2022a). Defending against the label-flipping attack in federated learning.
Jebreel, N. M. et al. (2022b). Lfighter: Defending against the label-flipping attack in federated learning. In Neural Networks. Elsevier.
Jiang, Y., Zhang, W., and Chen, Y. (2023). Data quality detection mechanism against label flipping attacks in federated learning. IEEE Transactions on Information Forensics and Security, 18:1625–1637.
Li, D., Wong, W. E., Wang, W., Yao, Y., and Chau, M. (2021). Detection and mitigation of label-flipping attacks in federated learning systems with kpca and k-means. In 2021 8th International Conference on Dependable Systems and Their Applications (DSA), pages 551–559.
Mammen, P. M. (2021). Federated learning: Opportunities and challenges. In Proceedings of ACM Conference (Conference’17). ACM.
Tolpegin, V., Truex, S., Gursoy, M. E., and Liu, L. (2020). Data poisoning attacks against federated learning systems.
Wang, T. et al. (2022). Federated learning framework based on trimmed mean aggregation rules. SSRN.
Publicado
17/10/2024
Como Citar
BATISTA, João Pedro C.; SARMENTO, Eduardo M. M.; BASTOS, Johann J. S.; MOTA, Vinícius F. S.; VILLAÇA, Rodolfo S..
Mitigação de Ataques “Label-Flipping” no Aprendizado Federado: Experimentos e Estratégias de Seleção de Clientes. In: ESCOLA REGIONAL DE INFORMÁTICA DO ESPÍRITO SANTO, 9. , 2024, Vitória/ES.
Anais [...].
Porto Alegre: Sociedade Brasileira de Computação,
2024
.
p. 91-98.
DOI: https://doi.org/10.5753/eries.2024.244627.
