Enabling safe AI deployment: an automated Fitzpatrick skin type guardrail for out-of-distribution dermatology - Bouzon, Pedro H. G.; Magesk, Eduarda P.; Souza Jr., Luis A. de; Pacheco, André G. C. (Anais do Simpósio Brasileiro de Computação Aplicada à Saúde (SBCAS); 2026: Anais do XXVI Simpósio Brasileiro de Computação Aplicada à SaúdeDO - 10.5753/sbcas.2026.21435, 2026)
Modelos dermatológicos de IA falham frequentemente em tons de pele mais escuros, representando significativos riscos regulatórios e de segurança. Para evitar inferências inseguras fora da distribuição de treinamento (out-of-distribution), propomos um classificador interpretável da Escala de Fitzpatrick (FST) que atua como um mecanismo de proteção algorítmico ativo. Nossa abordagem de Correspondência de Protótipos (Prototype Matching) classifica imagens clínicas em FST I-IV ou V-VI. Para garantir a robustez, empregamos a pré-segmentação com o modelo SAM3 para isolar a pele saudável antes da extração de características. Isso evita rigorosamente o aprendizado por atalhos (shortcut learning) causado por artefatos clínicos e pela morfologia da lesão. Avaliado no conjunto de dados Diverse Dermatology Images (DDI), nosso método alcançou um Kappa de Cohen de 0,78, Acurácia Balanceada de 0,88 e F1-Score Macro de 0,89, superando substancialmente os métodos de referência estabelecidos. Ao recuperar os protótipos mais próximos para verificação visual, nosso framework fornece a interpretabilidade necessária para a implantação segura e em conformidade de IA na área médica.