FedSNIP: Método baseado em Poda de Modelo de Etapa Única para Comunicação Eficiente em Aprendizado Federado - Bustincio, Rómulo; Souza, Allan M. de; Costa, Joahannes B. D. da; Gonzalez, Luis F. G.; Bittencourt, Luiz F. (Anais do Simpósio Brasileiro de Redes de Computadores e Sistemas Distribuídos (SBRC); 2024: Anais do XLII Simpósio Brasileiro de Redes de Computadores e Sistemas Distribuídos, 2024)
No âmbito do Aprendizado Federado (AF), uma abordagem colaborativa, porém descentralizada, para a aprendizagem de máquina, a eficiência da comunicação é uma preocupação crítica, especialmente sob as restrições de largura de banda e recursos limitados. Este artigo introduz uma aplicação inovadora da técnica SNIP (Single-shot Network Pruning based on Connection Sensitivity) neste contexto. Aproveitando o SNIP, o método proposto poda eficazmente as redes neurais, convertendo numerosos pesos em zero e resultando em representações de pesos mais esparsas. Essa redução significativa na densidade de pesos diminui substancialmente o volume de parâmetros que precisam ser comunicados ao servidor, reduzindo assim a sobrecarga de comunicação. Os experimentos com o conjunto de dados MNIST demonstram que esta abordagem não apenas reduz a transmissão de dados entre clientes e servidor, mas também mantém a acurácia competitiva do modelo, comparável aos modelos convencionais de AF. O uso da poda de rede via SNIP emerge como uma estratégia eficaz para aumentar a eficiência do AF, especialmente vantajosa em ambientes com capacidades de comunicação restritas.