Podemos Confiar em LLMs na Recomendação Clínica? Uma Avaliação Preliminar sobre Viés e Confiabilidade - Ferrari, Camila; de Oliveira, Daniel (Anais do Brazilian e-Science Workshop (BreSci), 2026)
Os Modelos de Linguagem de Larga Escala (LLMs) vêm sendo aplicados na área da saúde, mas suscitam preocupações quanto a vieses e à confiabilidade clínica. Este artigo propõe um workflow para a identificação de vieses em recomendações clínicas com base na avaliação contrafactual, mantendo o quadro clínico fixo e variando atributos como sexo e raça. Os experimentos consideraram 72 inferências por modelo, combinando seis cenários-base, seis perfis contrafactuais e dois tipos de prompt. As respostas foram avaliadas quanto à aderência às diretrizes clínicas e classificadas como corretas, com viés potencial ou como erro clínico. Os resultados indicam que cerca de 50% das recomendações apresentam problemas, com maior incidência associada à raça.