Comparando o Desempenho da NPU Intel AI Boost com uma CPU de Proposito Geral

• Kenichi Brumati UFRGS
• Igor Freitas Intel
• Arthur F. Lorenzon UFRGS

DOI: https://doi.org/10.5753/eradrs.2025.6810

Resumo

A crescente demanda por aplicações de Inteligência Artificial tem impulsionado o desenvolvimento de hardware especializado, como as Unidades de Processamento Neural, projetadas para otimizar tarefas de treinamento e inferência. Com sua crescente adoção em processadores modernos e dispositivos embarcados, torna-se essencial avaliar seu impacto no desempenho das aplicações. Assim, neste trabalho, analisamos o desempenho da NPU Intel AI Boost em comparação a um processador de propósito geral , considerando métricas como latência, tempo de inferência e throughput.

Palavras-chave: Avaliação, Medição e Predição de Desempenho, Computação Heterogênea

Referências

Ishida, K., Byun, I., Nagaoka, I., Fukumitsu, K., Tanaka, M., Kawakami, S., Tanimoto, T., Ono, T., Kim, J., and Inoue, K. (2020). Supernpu: An extremely fast neural processing unit using superconducting logic devices. In Annual IEEE/ACM MICRO, pages 58–72.

Kim, S., Kim, S., Hong, S., Kim, S., Han, D., Choi, J., and Yoo, H.-J. (2023). Cool-npu: Complementary online learning neural processing unit with cnn-snn heterogeneous core and event-driven backpropagation. In IEEE COOL CHIPS, pages 1–3.

Wu, B., Furtner, W., Waschneck, B., and Mayr, C. (2022). Industry-track: Towards agile design of neural processing unit. In CODES+ISSS, pages 17–20.

Xue, Y., Liu, Y., and Huang, J. (2023). System virtualization for neural processing units. In HOTOS, page 80–86.

Zhang, W., Peng, X., Wu, H., Gao, B., He, H., Zhang, Y., Yu, S., and Qian, H. (2019). Design guidelines of rram based neural-processing-unit: A joint device-circuit-algorithm analysis. In ACM/IEEE DAC, pages 1–6.