Surrogate-based constrained multi-objective optimization for the compression of CNNs - Ferreira, Gabriel Bicalho; Barros, Antônio de; Ibrahim, Issah; Silva, Rodrigo (Anais do Encontro Nacional de Inteligência Artificial e Computacional (ENIAC), 2023)
A implantação de redes neurais profundas em dispositivos com recursos limitados apresenta desafios significativos. Para enfrentar esse problema, técnicas como poda e quantização são frequentemente utilizadas. No entanto, essas técnicas exigem ajustes cuidadosos para garantir que o modelo final seja computacionalmente eficiente sem sacrificar muita qualidade. Para automatizar o processo de compressão e melhorar sua robustez e acessibilidade, propomos um Algoritmo Evolucionário Multiobjetivo com Restrições Baseado em Surrogates para a compressão de redes neurais artificiais. Resultados experimentais obtidos para o conjunto de dados CIFAR10 utilizando as arquiteturas ResNet50 e VGG16 indicam que a abordagem proposta permite um ajuste mais eficiente em relação aos algoritmos de poda e quantização, resultando em conjuntos não dominados de maior qualidade em comparação com o método de otimização sem Surrogates. Além disso, nosso método produziu versões mais enxutas das arquiteturas testadas mantendo a precisão.