Uma Revisão Sistemática sobre a Relação de Impacto da Qualidade de Dados na Justiça Algorítmica para Classificação de Imagens
Resumo
À medida que os sistemas de classificação de imagens médicas são difundidos, intensifica-se o debate acerca da imparcialidade e justiça destes. Buscando compreender a forma como a temática vem sendo debatida, realizou-se uma revisão sistemática sobre o impacto da qualidade de dados na ocorrência de vieses em sistemas de aprendizado de máquina na classificação de imagens médicas. Após a análise dos artigos, foram identificados métodos para assegurar a qualidade dos conjuntos de dados. Conclui-se, que a qualidade do conjunto de dados impacta no desempenho dos modelos, podendo ocasionar em diagnósticos clínicos incorretos ou imprecisos.Referências
Arora, A. et al. (2023) “The value of standards for health datasets in artificial intelligence-based applications”, Em: Nature Medicine, 29, 2929-2938, DOI: 10.1038/s41591-023-02608-w
Band, S. S. et al. (2023) “Application of explainable artificial intelligence in medical health: A systematic review of interpretability methods”, Em: Informatics in Medicine Unlocked, 40, 101286, DOI: 10.1016/j.imu.2023.101286
Dash, S., Vineeth, N. B. and Sharma, A. (2022) “Evaluating and Mitigating Bias in Image Classifiers: A Causal Perspective Using Counterfactuals”, Em: 2022 IEEE/CVF Winter Conference on Applications of Computer Vision (WACV), Waikoloa, HI, USA, p. 3879-3888, DOI: 10.1109/WACV51458.2022.00393.
El-Sappagh, S. et al. (2023) “Trustworthy artificial intelligence in Alzheimer’s disease: state of the art, opportunities, and challenges”, Em: Artificial Intelligence Review, 56, p. 11149 – 11296, DOI: 10.1007/s10462-023-10415-5
Kitchenham, B. (2004) “Procedures for Performing Systematic Reviews”, [link]
Lei, J. et al. (2023) “Category-aware feature attribution for Self-Optimizing medical image classification”, Em: Displays, 77, 102397, DOI: 10.1016/j.displa.2023.102397
Pandl, K. D. et al. (2021) “Trustworthy machine learning for health care: scalable data valuation with the shapley value”, Em: CHIL '21: Proceedings of the Conference on Health, Inference, and Learning, p. 47 - 57, DOI: 10.1145/3450439.3451861
Tian, F. et al. (2022) “Face Recognition Fairness Assessment based on Data Augmentation: An Empirical Study”, Em: 2022 IEEE 22nd International Conference on Software Quality, Reliability, and Security Companion (QRS-C), Guangzhou, China, p. 315-318, DOI: 10.1109/QRS-C57518.2022.00053.
Yang, J. et al. (2023) “Algorithmic fairness and bias mitigation for clinical machine learning with deep reinforcement learning”, Em: Nature Machine Intelligence, 5, 884-894, DOI: 10.1038/s42256-023-00697-3.
Band, S. S. et al. (2023) “Application of explainable artificial intelligence in medical health: A systematic review of interpretability methods”, Em: Informatics in Medicine Unlocked, 40, 101286, DOI: 10.1016/j.imu.2023.101286
Dash, S., Vineeth, N. B. and Sharma, A. (2022) “Evaluating and Mitigating Bias in Image Classifiers: A Causal Perspective Using Counterfactuals”, Em: 2022 IEEE/CVF Winter Conference on Applications of Computer Vision (WACV), Waikoloa, HI, USA, p. 3879-3888, DOI: 10.1109/WACV51458.2022.00393.
El-Sappagh, S. et al. (2023) “Trustworthy artificial intelligence in Alzheimer’s disease: state of the art, opportunities, and challenges”, Em: Artificial Intelligence Review, 56, p. 11149 – 11296, DOI: 10.1007/s10462-023-10415-5
Kitchenham, B. (2004) “Procedures for Performing Systematic Reviews”, [link]
Lei, J. et al. (2023) “Category-aware feature attribution for Self-Optimizing medical image classification”, Em: Displays, 77, 102397, DOI: 10.1016/j.displa.2023.102397
Pandl, K. D. et al. (2021) “Trustworthy machine learning for health care: scalable data valuation with the shapley value”, Em: CHIL '21: Proceedings of the Conference on Health, Inference, and Learning, p. 47 - 57, DOI: 10.1145/3450439.3451861
Tian, F. et al. (2022) “Face Recognition Fairness Assessment based on Data Augmentation: An Empirical Study”, Em: 2022 IEEE 22nd International Conference on Software Quality, Reliability, and Security Companion (QRS-C), Guangzhou, China, p. 315-318, DOI: 10.1109/QRS-C57518.2022.00053.
Yang, J. et al. (2023) “Algorithmic fairness and bias mitigation for clinical machine learning with deep reinforcement learning”, Em: Nature Machine Intelligence, 5, 884-894, DOI: 10.1038/s42256-023-00697-3.
Publicado
25/06/2024
Como Citar
RIQUELME, Maristela de Freitas; LIMA, Lucas Freire de; LIMA, Luiz Fernando F. P. de; RICARTE, Danielle Rousy Dias.
Uma Revisão Sistemática sobre a Relação de Impacto da Qualidade de Dados na Justiça Algorítmica para Classificação de Imagens. In: CONCURSO DE TRABALHOS DE INICIAÇÃO CIENTÍFICA - SIMPÓSIO BRASILEIRO DE COMPUTAÇÃO APLICADA À SAÚDE (SBCAS), 24. , 2024, Goiânia/GO.
Anais [...].
Porto Alegre: Sociedade Brasileira de Computação,
2024
.
p. 31-36.
ISSN 2763-8987.
DOI: https://doi.org/10.5753/sbcas_estendido.2024.2770.
