Análise da Experiência do Usuário com uma Ferramenta Multiperspectiva de Explicabilidade para Aprendizagem de Máquina à Luz de Princípios Interativos

• Bárbara G. C. O. Lopes UFMG
• Liziane S. Soares UFMG / UFV
• Raquel O. Prates UFMG
• Marcos A. Gonçalves UFMG

Resumo

Atualmente, modelos de aprendizado de máquina (ML) têm sido amplamente utilizados, como "caixas pretas mágicas", em diversos domínios e com objetivos distintos, mas a forma como geram seus resultados ainda não é totalmente compreendida, inclusive por usuários com algum conhecimento em ML. Se os usuários não conseguem interpretar ou confiar na previsão gerada pelo modelo, eles não a usarão. Além disso, a participação do usuário muitas vezes não é (apropriadamente) considerada durante o desenvolvimento de sistemas de ML. Neste artigo, apresentamos uma discussão sobre o desenvolvimento centrado no usuário de sistemas de aprendizado de máquina interativo. Baseamos nossa discussão no Explain-ML, uma ferramenta de aprendizado de máquina, multiperspectiva, centrada no ser humano, que auxilia os usuários na construção, refinamento e na interpretabilidade dos modelos ML. Para isso, realizamos uma análise dos resultados da avaliação do Explain-ML com usuários potenciais à luz dos princípios de projeto de sistemas interativos de ML. Nossos resultados contribuem para a compreensão e consolidação desses princípios. Além disso, a experiência adquirida com a discussão sobre o Explain-ML, seu desenvolvimento centrado no usuário e sua avaliação com os usuários, com base nestes princípios, é relevante para a pesquisa e o desenvolvimento de ferramentas interativas de ML que envolvem explicabilidade de ML.

Palavras-chave: Interpretabilidade, Modelos de Aprendizagem de Máquina, Interação Humano-Computador, Aprendizagem de Máquina Centrada no Usuário