Análise da Experiência do Usuário com uma Ferramenta Multiperspectiva de Explicabilidade para Aprendizagem de Máquina à Luz de Princípios Interativos - Lopes, Bárbara G. C. O.; Soares, Liziane S.; Prates, Raquel O.; Gonçalves, Marcos A. (Anais do Simpósio Brasileiro sobre Fatores Humanos em Sistemas Computacionais (IHC); 2021: Anais do XX Simpósio Brasileiro sobre Fatores Humanos em Sistemas Computacionais, 2021)
Atualmente, modelos de aprendizado de máquina (ML) têm sido amplamente utilizados, como "caixas pretas mágicas", em diversos domínios e com objetivos distintos, mas a forma como geram seus resultados ainda não é totalmente compreendida, inclusive por usuários com algum conhecimento em ML. Se os usuários não conseguem interpretar ou confiar na previsão gerada pelo modelo, eles não a usarão. Além disso, a participação do usuário muitas vezes não é (apropriadamente) considerada durante o desenvolvimento de sistemas de ML. Neste artigo, apresentamos uma discussão sobre o desenvolvimento centrado no usuário de sistemas de aprendizado de máquina interativo. Baseamos nossa discussão no Explain-ML, uma ferramenta de aprendizado de máquina, multiperspectiva, centrada no ser humano, que auxilia os usuários na construção, refinamento e na interpretabilidade dos modelos ML. Para isso, realizamos uma análise dos resultados da avaliação do Explain-ML com usuários potenciais à luz dos princípios de projeto de sistemas interativos de ML. Nossos resultados contribuem para a compreensão e consolidação desses princípios. Além disso, a experiência adquirida com a discussão sobre o Explain-ML, seu desenvolvimento centrado no usuário e sua avaliação com os usuários, com base nestes princípios, é relevante para a pesquisa e o desenvolvimento de ferramentas interativas de ML que envolvem explicabilidade de ML.