Introduzindo a qualidade de imagem como uma nova condição de particionamento de DNN na borda

• Roberto Gonçalves Pacheco Universidade Federal do Rio de Janeiro http://orcid.org/0000-0002-6763-7255
• Rodrigo de Souza Couto Universidade Federal do Rio de Janeiro http://orcid.org/0000-0002-6921-7756

DOI: https://doi.org/10.5753/sbrc.2020.12272

Resumo

Em aplicações de redes neurais profundas (DNNs) com computação na borda, é possível processar as primeiras camadas da DNN na borda e as demais camadas na nuvem. Quando DNNs são utilizadas para classificação de objetos em imagens de alta qualidade, o processo de inferência pode apresentar um nível de confiança satisfatório já nas primeiras camadas da DNN. Assim, dependendo da qualidade da imagem, é possível evitar o uso da nuvem, reduzindo o tempo de inferência e o uso da rede. Este trabalho avalia, de forma experimental, o impacto da qualidade de imagem no tempo de inferência em infraestruturas de computação na borda.
No cenário utilizado, mostra-se que considerar a qualidade da imagem reduz o tempo de inferência em até 35,33%.

Palavras-chave: Computação na borda, redes neurais profundas, particionamento de redes neurais profundas

Referências

Dodge, S. e Karam, L. (2016). Understanding how image quality affects deep neural networks. Em IEEE International Conference on Quality of Multimedia Experience (QoMEX), p. 1–6.

Hu, C., Bao, W., Wang, D. e Liu, F. (2019). Dynamic adaptive DNN surgery for inference acceleration on the edge. Em IEEE Conference on Computer Communications (INFOCOM), p. 1423–1431.

Iandola, F. N., Han, S., Moskewicz, M. W., Ashraf, K., Dally, W. J. e Keutzer, K. (2016). Squeezenet: Alexnet-level accuracy with 50x fewer parameters and [ 0.5 mb model size. arXiv preprint arXiv:1602.07360.

Kang, Y., Hauswald, J., Gao, C., Rovinski, A., Mudge, T., Mars, J. e Tang, L. (2017). Neurosurgeon: Collaborative intelligence between the cloud and mobile edge. Em ACM Computer Architecture News (SIGARCH), volume 45, p. 615–629.

Ko, J. H., Na, T., Amir, M. F. e Mukhopadhyay, S. (2018). Edge-host partitioning of deep neural networks with feature space encoding for resource-constrained internet-of-things platforms. Em IEEE International Conference on Advanced Video and Signal Based Surveillance (AVSS), p. 1–6.

Krizhevsky, A., Sutskever, I. e Hinton, G. E. (2012). Imagenet classification with deep convolutional neural networks. Em Advances in Neural Information Processing Systems (NIPS), p. 1097–1105.

LeCun, Y., Bengio, Y. e Hinton, G. (2015). Deep learning. nature, 521(7553):436.

Li, E., Zhou, Z. e Chen, X. (2018). Edge intelligence: On-demand deep learning model co-inference with device-edge synergy. Em Proceedings of the 2018 Workshop on Mobile Edge Communications, p. 31–36. ACM.

Parkhi, O. M., Vedaldi, A., Zisserman, A. e Jawahar, C. (2012). Cats and dogs. Em IEEE Conference on Computer Vision and Pattern Recognition, p. 3498–3505.

Satyanarayanan, M. (2017). The emergence of edge computing. Computer, 50(1):30–39.

Teerapittayanon, S., McDanel, B. e Kung, H.-T. (2016). Branchynet: Fast inference via early exiting from deep neural networks. Em IEEE International Conference on Pattern Recognition (ICPR), p. 2464–2469.

Xu, M., Qian, F., Zhu, M., Huang, F., Pushp, S. e Liu, X. (2019). Deepwear: Adaptive local offloading for on-wearable deep learning. IEEE Transactions on Mobile Computing, 19(2):314–330.

Yao, S., Zhao, Y., Zhang, A., Hu, S., Shao, H., Zhang, C., Su, L. e Abdelzaher, T. (2018). Deep learning for the internet of things. Computer, 51(5):32–41.

Zhang, X., Wang, Y. e Shi, W. (2018). pcamp: Performance comparison of machine learning packages on the edges. Em USENIX Workshop on Hot Topics on Edge Computing (HotEdge).