Análise Prática da Técnica de Aprendizado Federado Aplicada a Dispositivos da Internet das Coisas
Resumo
O número de dispositivos da (Internet of Things - IoT) cresceu exponencialmente nos últimos anos, resultando em uma grande massa de dados útil para aplicações de aprendizado de máquina. Tradicionalmente, os modelos de aprendizado de máquina exigem coleta e processamento de dados centralizados, o que não é viável no cenário IoT, devido à alta densidade e às crescentes preocupações com a privacidade dos dados. O Aprendizado Federado é uma tendência nesse cenário, pois permite o treinamento colaborativo de modelos em dispositivos IoT, distribuído e sem a necessidade de compartilhamento de dados. Este artigo propõe e avalia o desempenho de um arcabouço de aprendizado federado para dispositivos IoT. O arcabouço proposto e avaliado emprega uma topologia de servidor de parâmetros. A análise de desempenho é executada sobre uma rede de testes composta por dispositivos IoT equipados com processadores ARM e limitados a 2GB de RAM. Os experimentos foram executados sobre um conjunto de dados não identicamente distribuído e com dados dependentes (non-IID). Os resultados mostram que o modelo global federado alcança acurácia 0.6, com quatro clientes e 10 rodadas de agregação, independentemente das épocas de treinamento locais.
Referências
Alli, A. A. e Alam, M. M. (2019). SecOFF-FCIoT: Machine learning based secure offloading in fog-cloud of things for smart city applications. Internet of Things, 7:100070.
Andreoni, M. e Mattos, D. M. F. (2021). Resumo de grandes volumes de dados com filtro de bloom: Uma abordagem eficiente para aprendizado profundo com redes neurais convolucionais em fluxos de rede. Em Anais do XXXIX Simpósio Brasileiro de Redes de Computadores e Sistemas Distribuídos, p. 532–545, Porto Alegre, RS, Brasil. SBC.
Chiu, T.-C., Shih, Y.-Y., Pang, A.-C., Wang, C.-S., Weng, W. e Chou, C.-T. (2020). Semisupervised distributed learning with non-IID data for AIoT service platform. IEEE Internet of Things Journal, 7(10):9266–9277.
Ciftler, B. S., Albaseer, A., Lasla, N. e Abdallah, M. (2020). Federated learning for RSS fingerprint-based localization: A privacy-preserving crowdsourcing method. Em 2020 International Wireless Communications and Mobile Computing (IWCMC), p. 2112–2117.
Cunha Neto, H. N., Mattos, D. M. F. e Fernandes, N. C. (2020). Privacidade do usuário em aprendizado colaborativo: Federated learning, da teoria à prática. Minicursos do Simpósio Brasileiro de Segurança de Informação e de Sistemas Computacionais - SBSeg, 20:142–195.
Hard, A., Rao, K., Mathews, R., Ramaswamy, S., Beaufays, F., Augenstein, S., Eichner, H., Kiddon, C. e Ramage, D. (2018). Federated learning for mobile keyboard prediction. arXiv preprint arXiv:1811.03604.
Kong, L., Liu, X.-Y., Sheng, H., Zeng, P. e Chen, G. (2020). Federated tensor mining for secure industrial internet of things. IEEE Transactions on Industrial Informatics, 16(3):2144–2153.
Lai, F., Zhu, X., Madhyastha, H. V. e Chowdhury, M. (2021). Oort: Efficient federated learning via guided participant selection. Em USENIX Symposium on Operating Systems Design and Implementation (OSDI).
Lim, W. Y. B., Luong, N. C., Hoang, D. T., Jiao, Y., Liang, Y. C., Yang, Q., Niyato, D. e Miao, C. (2020). Federated learning in mobile edge networks: A comprehensive survey. IEEE Communications Surveys & Tutorials.
Liu, W., Xu, X., Li, D., Qi, L., Dai, F., Dou, W. e Ni, Q. (2022). Privacy preservation for federated learning with robust aggregation in edge computing. IEEE Internet of Things Journal.
Lu, Y., Huang, X., Dai, Y., Maharjan, S. e Zhang, Y. (2020). Differentially private asynchronous federated learning for mobile edge computing in urban informatics. IEEE Transactions on Industrial Informatics, 16(3):2134–2143.
Md. Fadlullah, Z. e Kato, N. (2022). HCP: Heterogeneous computing platform for federated learning based collaborative content caching towards 6G networks. IEEE Transactions on Emerging Topics in Computing, 10(1):112–123.
Medeiros, D. S. V., Cunha Neto, H. N., Andreoni Lopez, M., Magalhães, L. C. S., Silva, E. F., Vieira, A. B., Fernandes, N. C. e Mattos, D. M. F. (2019). Análise de dados em redes sem fio de grande porte: Processamento em fluxo em tempo real, tendências e desafios. Minicursos do Simpósio Brasileiro de Redes de Computadores-SBRC, 2019:142–195.
Mills, J., Hu, J. e Min, G. (2019). Communication-efficient federated learning for wireless edge intelligence in IoT. IEEE Internet of Things Journal, 7(7):5986–5994.
Neto, H. N. C., Dusparic, I., Mattos, D. M. F. e Fernande, N. C. (2022). FedSA: Accelerating intrusion detection in collaborative environments with federated simulated annealing. Em 2022 IEEE 8th International Conference on Network Softwarization (NetSoft), p. 420–428.
Nguyen, D. C., Ding, M., Pathirana, P. N., Seneviratne, A., Li, J. e Vincent Poor, H. (2021). Federated learning for internet of things: A comprehensive survey. IEEE Communications Surveys & Tutorials, 23(3):1622–1658.
Savazzi, S., Nicoli, M. e Rampa, V. (2020). Federated learning with cooperating devices: A consensus approach for massive IoT networks. IEEE Internet of Things Journal, 7(5):4641–4654.
Wang, X., Wang, C., Li, X., Leung, V. C. M. e Taleb, T. (2020). Federated deep reinforcement learning for internet of things with decentralized cooperative edge caching. IEEE Internet of Things Journal, 7(10):9441–9455.
Yu, Z., Hu, J., Min, G., Lu, H., Zhao, Z., Wang, H. e Georgalas, N. (2018). Federated learning based proactive content caching in edge computing. Em 2018 IEEE Global Communications Conference (GLOBECOM), p. 1–6.
Zhang, T., He, C., Ma, T., Gao, L., Ma, M. e Avestimehr, S. (2021). Federated learning for internet of things. Em Proceedings of the 19th ACM Conference on Embedded Networked Sensor Systems, p. 413–419.
Zhou, Z., Yang, S., Pu, L. e Yu, S. (2020). CEFL: Online admission control, data scheduling, and accuracy tuning for cost-efficient federated learning across edge nodes. IEEE Internet of Things Journal, 7(10):9341–9356.
Andreoni, M. e Mattos, D. M. F. (2021). Resumo de grandes volumes de dados com filtro de bloom: Uma abordagem eficiente para aprendizado profundo com redes neurais convolucionais em fluxos de rede. Em Anais do XXXIX Simpósio Brasileiro de Redes de Computadores e Sistemas Distribuídos, p. 532–545, Porto Alegre, RS, Brasil. SBC.
Chiu, T.-C., Shih, Y.-Y., Pang, A.-C., Wang, C.-S., Weng, W. e Chou, C.-T. (2020). Semisupervised distributed learning with non-IID data for AIoT service platform. IEEE Internet of Things Journal, 7(10):9266–9277.
Ciftler, B. S., Albaseer, A., Lasla, N. e Abdallah, M. (2020). Federated learning for RSS fingerprint-based localization: A privacy-preserving crowdsourcing method. Em 2020 International Wireless Communications and Mobile Computing (IWCMC), p. 2112–2117.
Cunha Neto, H. N., Mattos, D. M. F. e Fernandes, N. C. (2020). Privacidade do usuário em aprendizado colaborativo: Federated learning, da teoria à prática. Minicursos do Simpósio Brasileiro de Segurança de Informação e de Sistemas Computacionais - SBSeg, 20:142–195.
Hard, A., Rao, K., Mathews, R., Ramaswamy, S., Beaufays, F., Augenstein, S., Eichner, H., Kiddon, C. e Ramage, D. (2018). Federated learning for mobile keyboard prediction. arXiv preprint arXiv:1811.03604.
Kong, L., Liu, X.-Y., Sheng, H., Zeng, P. e Chen, G. (2020). Federated tensor mining for secure industrial internet of things. IEEE Transactions on Industrial Informatics, 16(3):2144–2153.
Lai, F., Zhu, X., Madhyastha, H. V. e Chowdhury, M. (2021). Oort: Efficient federated learning via guided participant selection. Em USENIX Symposium on Operating Systems Design and Implementation (OSDI).
Lim, W. Y. B., Luong, N. C., Hoang, D. T., Jiao, Y., Liang, Y. C., Yang, Q., Niyato, D. e Miao, C. (2020). Federated learning in mobile edge networks: A comprehensive survey. IEEE Communications Surveys & Tutorials.
Liu, W., Xu, X., Li, D., Qi, L., Dai, F., Dou, W. e Ni, Q. (2022). Privacy preservation for federated learning with robust aggregation in edge computing. IEEE Internet of Things Journal.
Lu, Y., Huang, X., Dai, Y., Maharjan, S. e Zhang, Y. (2020). Differentially private asynchronous federated learning for mobile edge computing in urban informatics. IEEE Transactions on Industrial Informatics, 16(3):2134–2143.
Md. Fadlullah, Z. e Kato, N. (2022). HCP: Heterogeneous computing platform for federated learning based collaborative content caching towards 6G networks. IEEE Transactions on Emerging Topics in Computing, 10(1):112–123.
Medeiros, D. S. V., Cunha Neto, H. N., Andreoni Lopez, M., Magalhães, L. C. S., Silva, E. F., Vieira, A. B., Fernandes, N. C. e Mattos, D. M. F. (2019). Análise de dados em redes sem fio de grande porte: Processamento em fluxo em tempo real, tendências e desafios. Minicursos do Simpósio Brasileiro de Redes de Computadores-SBRC, 2019:142–195.
Mills, J., Hu, J. e Min, G. (2019). Communication-efficient federated learning for wireless edge intelligence in IoT. IEEE Internet of Things Journal, 7(7):5986–5994.
Neto, H. N. C., Dusparic, I., Mattos, D. M. F. e Fernande, N. C. (2022). FedSA: Accelerating intrusion detection in collaborative environments with federated simulated annealing. Em 2022 IEEE 8th International Conference on Network Softwarization (NetSoft), p. 420–428.
Nguyen, D. C., Ding, M., Pathirana, P. N., Seneviratne, A., Li, J. e Vincent Poor, H. (2021). Federated learning for internet of things: A comprehensive survey. IEEE Communications Surveys & Tutorials, 23(3):1622–1658.
Savazzi, S., Nicoli, M. e Rampa, V. (2020). Federated learning with cooperating devices: A consensus approach for massive IoT networks. IEEE Internet of Things Journal, 7(5):4641–4654.
Wang, X., Wang, C., Li, X., Leung, V. C. M. e Taleb, T. (2020). Federated deep reinforcement learning for internet of things with decentralized cooperative edge caching. IEEE Internet of Things Journal, 7(10):9441–9455.
Yu, Z., Hu, J., Min, G., Lu, H., Zhao, Z., Wang, H. e Georgalas, N. (2018). Federated learning based proactive content caching in edge computing. Em 2018 IEEE Global Communications Conference (GLOBECOM), p. 1–6.
Zhang, T., He, C., Ma, T., Gao, L., Ma, M. e Avestimehr, S. (2021). Federated learning for internet of things. Em Proceedings of the 19th ACM Conference on Embedded Networked Sensor Systems, p. 413–419.
Zhou, Z., Yang, S., Pu, L. e Yu, S. (2020). CEFL: Online admission control, data scheduling, and accuracy tuning for cost-efficient federated learning across edge nodes. IEEE Internet of Things Journal, 7(10):9341–9356.
Publicado
06/08/2023
Como Citar
BARBOSA, Guilherme Nunes Nasseh; MATTOS, Diogo Menezes Ferrazani.
Análise Prática da Técnica de Aprendizado Federado Aplicada a Dispositivos da Internet das Coisas. In: WORKSHOP EM DESEMPENHO DE SISTEMAS COMPUTACIONAIS E DE COMUNICAÇÃO (WPERFORMANCE), 22. , 2023, João Pessoa/PB.
Anais [...].
Porto Alegre: Sociedade Brasileira de Computação,
2023
.
p. 13-24.
ISSN 2595-6167.
DOI: https://doi.org/10.5753/wperformance.2023.231129.
