AutoML baseado na Teoria de Resposta ao Item

• Lucas F. F. Cardoso UFPA / ITV
• Regiane S. Kawasaki Francês UFPA
• Ronnie C. O. Alves ITV

DOI: https://doi.org/10.5753/erad-no2.2022.228250

Resumo

Gerar modelos de aprendizado de máquina automaticamente segue sendo uma área de muita pesquisa recente. Porém, ainda não há uma forma definitiva capaz de gerar modelos simples que melhor generalizem e que sejam imunes a subespecificação. Neste trabalho, são apresentado os resultados preliminares de uma metodologia proposta que utiliza os conceitos da Teoria de Resposta ao Item e Algoritmo Genético para criar um algoritmo de AutoML do tipo NAS que seja capaz de gerar uma Rede Neural competitiva com os modelos já conhecidos na literatura. Nos resultados iniciais, foi possível gerar um modelo competitivo com o AutoKeras, porém com complexidade inferior a 5.5% da complexidade total do modelo do próprio AutoKeras.

Referências

Cardoso, L. F., Santos, V. C., Francês, R. S. K., Prudêncio, R. B., and Alves, R. C. (2020). Decoding machine learning benchmarks. In Brazilian Conference on Intelligent Systems, pages 412-425. Springer.

D'Amour, A., Heller, K., Moldovan, D., Adlam, B., Alipanahi, B., Beutel, A., Chen, C., Deaton, J., Eisenstein, J., Hoffman, M. D., et al. (2020). Underspecification presents challenges for credibility in modern machine learning. arXiv preprint arXiv:2011.03395, 1(3).

He, X., Zhao, K., and Chu, X. (2021). Automl: A survey of the state-of-the-art. Knowledge-Based Systems, 212:106622.

Ren, P., Xiao, Y., Chang, X., Huang, P.-Y., Li, Z., Chen, X., and Wang, X. (2021). A comprehensive survey of neural architecture search: Challenges and solutions. ACM Computing Surveys (CSUR), 54(4):1-34.