Transformando Caixas-Pretas em Caixas de Vidro: Aumentando a Explicabilidade de Redes Neurais com Ferramentas de Visualização 3D - Barbosa, Karoline A. F.; Teixeira, Rafael Campos; Peretta, Igor Santos; Cardoso, Alexandre (Anais do Congresso Latino-Americano de Software Livre e Tecnologias Abertas (Latinoware), 2024)
Este artigo apresenta um projeto em andamento que visa transformar a natureza de "caixa preta" das redes neurais em modelos de "caixa de vidro" usando ferramentas de visualização 3D. À medida que a inteligência artificial (IA) se torna cada vez mais essencial em várias áreas, cresce a necessidade de explicabilidade nos modelos de deep learning. Utilizamos o Godot Engine, uma plataforma de código aberto, para criar visualizações interativas que elucidam o funcionamento interno das redes neurais, facilitando a compreensão dos processos de tomada de decisão. Nossa metodologia converte dados de redes neurais treinadas do Python para o formato JSON para visualização em tempo real, permitindo que os usuários explorem intuitivamente a arquitetura neural, os caminhos de ativação e as rotas de decisão por meio de uma interface visualmente rica. Resultados preliminares confirmam o potencial do projeto para melhorar a transparência da IA, com trabalho futuro focado em expandir as visualizações para abranger redes neurais mais complexas.