Transformando Caixas-Pretas em Caixas de Vidro: Aumentando a Explicabilidade de Redes Neurais com Ferramentas de Visualização 3D

• Karoline A. F. Barbosa UFU
• Rafael Campos Teixeira UFU
• Igor Santos Peretta UFU
• Alexandre Cardoso UFU https://orcid.org/0000-0002-2023-9647

DOI: https://doi.org/10.5753/latinoware.2024.245749

Resumo

Este artigo apresenta um projeto em andamento que visa transformar a natureza de "caixa preta" das redes neurais em modelos de "caixa de vidro" usando ferramentas de visualização 3D. À medida que a inteligência artificial (IA) se torna cada vez mais essencial em várias áreas, cresce a necessidade de explicabilidade nos modelos de deep learning. Utilizamos o Godot Engine, uma plataforma de código aberto, para criar visualizações interativas que elucidam o funcionamento interno das redes neurais, facilitando a compreensão dos processos de tomada de decisão. Nossa metodologia converte dados de redes neurais treinadas do Python para o formato JSON para visualização em tempo real, permitindo que os usuários explorem intuitivamente a arquitetura neural, os caminhos de ativação e as rotas de decisão por meio de uma interface visualmente rica. Resultados preliminares confirmam o potencial do projeto para melhorar a transparência da IA, com trabalho futuro focado em expandir as visualizações para abranger redes neurais mais complexas.

Palavras-chave: Inteligência Artificial, Redes Neurais, Visualização 3D, Godot Engine, Explicabilidade, Ferramentas Interativas

Referências

W. Samek, T. Wiegand, and K.-R. M¨uller, “Explainable artificial intelligence: Understanding, visualizing and interpreting deep learning models,” 2017. [Online]. Available: [link]

C. Olah, A. Mordvintsev, and L. Schubert, “Feature visualization,” Distill, 2017, [link].

R. Salama and M. Elsayed, “A live comparison between unity and unreal game engines,” Global Journal of Information Technology: Emerging Technologies, vol. 11, no. 1, pp. 01–07, 2021. [Online].Available: DOI: 10.18844/gjit.v11i1.5288

I. E. Sutherland, “A head-mounted three dimensional display,” in Proceedings of the December 9-11, 1968, Fall Joint Computer Conference, Part I, ser. AFIPS ’68 (Fall, part I). New York, NY, USA: Association for Computing Machinery, 1968, p. 757–764. [Online]. Available: DOI: 10.1145/1476589.1476686

T. Munzner, Visualization Analysis and Design, 1st ed. A K Peters/CRC Press, 2014. [Online]. Available: DOI: 10.1201/b17511

F. Doshi-Velez and B. Kim, “Towards a rigorous science of interpretable machine learning,” 2017. [Online]. Available: [link]

M. T. Ribeiro, S. Singh, and C. Guestrin, “”why should i trust you?”: Explaining the predictions of any classifier,” in Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, ser. KDD ’16. New York, NY, USA: Association for Computing Machinery, 2016, p. 1135–1144. [Online]. Available: DOI: 10.1145/2939672.2939778

A. Adadi and M. Berrada, “Peeking inside the black-box: A survey on explainable artificial intelligence (xai),” IEEE Access, vol. 6, pp. 52 138–52 160, 2018.

F. Hohman, M. Kahng, R. Pienta, and D. H. Chau, “Visual analytics in deep learning: An interrogative survey for the next frontiers,” 2018. [Online]. Available: [link]

D. Smilkov, S. Carter, D. Sculley, F. B. Vi´egas, and M. Wattenberg, “Direct-manipulation visualization of deep networks,” 2017. [Online]. Available: [link]

Godot Engine, “Godot Engine - Free and Open Source Game Engine,” 2024, acesso em: 22 set. 2024. [Online]. Available: [link]

J. Yosinski, J. Clune, A. Nguyen, T. Fuchs, and H. Lipson, “Understanding neural networks through deep visualization,” 2015. [Online]. Available: [link]

Q. Zhang and S.-C. Zhu, “Visual interpretability for deep learning: a survey,” 2018. [Online]. Available: [link]

M. Kahng, P. Y. Andrews, A. Kalro, and D. H. Chau, “Activis: Visual exploration of industry-scale deep neural network models,” 2017. [Online]. Available: [link]

M. D. Zeiler and R. Fergus, “Visualizing and understanding convolutional networks,” 2013. [Online]. Available: [link]