Análise da Experiência do Usuário com uma Ferramenta Multiperspectiva de Explicabilidade para Aprendizagem de Máquina à Luz de Princípios Interativos - Lopes, Bárbara G. C. O.; Soares, Liziane S.; Prates, Raquel O.; Gonçalves, Marcos A. (Anais do Simpósio Brasileiro sobre Fatores Humanos em Sistemas Computacionais (IHC), 2021)
Atualmente, modelos de aprendizado de máquina (ML) têm sido amplamente utilizados, como "caixas pretas mágicas", em diversos domínios e com objetivos distintos, mas a forma como geram seus resultados ainda não é totalmente compreendida, inclusive por usuários com algum conhecimento em ML. Se os usuários não conseguem interpretar ou confiar na previsão gerada pelo modelo, eles não a usarão. Além disso, a participação do usuário muitas vezes não é (apropriadamente) considerada durante o desenvolvimento de sistemas de ML. Neste artigo, apresentamos uma discussão sobre o desenvolvimento centrado no usuário de sistemas de aprendizado de máquina interativo. Baseamos nossa discussão no Explain-ML, uma ferramenta de aprendizado de máquina, multiperspectiva, centrada no ser humano, que auxilia os usuários na construção, refinamento e na interpretabilidade dos modelos ML. Para isso, realizamos uma análise dos resultados da avaliação do Explain-ML com usuários potenciais à luz dos princípios de projeto de sistemas interativos de ML. Nossos resultados contribuem para a compreensão e consolidação desses princípios. Além disso, a experiência adquirida com a discussão sobre o Explain-ML, seu desenvolvimento centrado no usuário e sua avaliação com os usuários, com base nestes princípios, é relevante para a pesquisa e o desenvolvimento de ferramentas interativas de ML que envolvem explicabilidade de ML.