Da Caixa-Preta à Explicabilidade: Um Estudo sobre Transparência em Sistemas de Inteligência Artificial - Souza, Carlos Eduardo Rehbein de; Eugênio, Letízia Manuella Serqueira; Oliveira, Emilli Dias de; Araujo, Nelcileno Virgílio de Souza (Anais da Escola Regional de Informática de Mato Grosso (ERI-MT), 2025)
A crescente adoção de Inteligência Artificial (IA) em decisões de alto impacto evidencia o problema da “caixa-preta”, marcado pela dificuldade de compreender critérios de modelos complexos. Essa opacidade compromete a confiança dos usuários e gera desafios técnicos e regulatórios diante de legislações como a LGPD e o GDPR. A Explainable AI (XAI) surge como resposta, buscando conciliar desempenho e interpretabilidade por meio de modelos explicáveis e técnicas pós-hoc, como LIME e SHAP. Este trabalho realiza revisão crítica do tema, destacando potencialidades, limitações e perspectivas. Conclui-se que a transparência algorítmica é essencial para a confiança, auditabilidade e adoção responsável da IA.