Um Estudo sobre Aceitabilidade de Resultados de Sistemas Aproximados em Redes Neurais Artificiais
Resumo
A computação aproximada é uma área da Ciência da Computação que busca aumentar o desempenho e a eficiência energética às custas de uma redução controlada na precisão. No contexto do treinamento e validação de redes neurais de classificação, investigar o impacto da aproximação na qualidade das imagens é crucial para determinar até que ponto podemos degradar os dados sem comprometer a validade dos resultados. Este trabalho investiga a aceitabilidade e qualidade dos resultados frente a diferentes níveis de aproximação em imagens. Para isso, foi utilizado uma rede neural residual (ResNet-50) [He et al. 2016] e submetida a diferentes cenários de treinamento e validação com imagens aproximadas e não aproximadas do dataset Imagenette2 [FastAI 2019]. O objetivo é investigar os níveis de aceitabilidade dos dados e sua relação com a qualidade das previsões da rede. Os resultados obtidos evidenciam a relação entre aceitabilidade e qualidade na validação e no treinamento de redes neurais com imagens aproximadas. A ResNet-50 [He et al. 2016] apresentou acurácia de (≥ 13.7% cenários com grande divergência do treinamento) a (≥ 68.6% condições próximas ou iguais ao treinamento), demonstrando que a computação aproximada pode ser viável quando mantida a similaridade dos dados - crucial para sistemas eficientes em energia e desempenho.
Referências
Felzmann, I., Fabrício Filho, J., de Oliveira, J. R., and Wanner, L. (2021). Special Session: How much quality is enough quality? A case for acceptability in approximate designs . In 2021 IEEE 39th International Conference on Computer Design (ICCD), pages 5–8, Los Alamitos, CA, USA. IEEE Computer Society.
Felzmann, I., Fabrício Filho, J., and Wanner, L. (2020). Risk-5: Controlled approximations for risc-v. IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems, 39(11):4052–4063.
He, K., Zhang, X., Ren, S., and Sun, J. (2016). Deep residual learning for image recognition. In 2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR), pages 770–778.
Li, T., Li, S., and Gupta, P. (2023). Training neural networks for execution on approximate hardware.
LoganKugler (2015). Is “good enough” computing good enough? the energy-accuracy trade-off in approximate computing. Communications of the ACM, 58(5):12.
Peng, Z., Chen, X., Xu, C., Jing, N., Liang, X., Lu, C., and Jiang, L. (2018). Axnet: Approximate computing using an end-to-end trainable neural network.
Zhang, Q., Wang, T., Tian, Y., Yuan, F., and Xu, Q. (2015). Approxann: An approximate computing framework for artificial neural network. In 2015 Design, Automation Test in Europe Conference Exhibition (DATE), pages 701–706.
