Revisão sistematica das teorias norteadoras do Visual Transformers - S. Junior, Joelson; Lucca, Giancarlo; Bottero, Diego; Dimuro, Graçaliz P.; Santos, Helida (Anais do Workshop-Escola de Informática Teórica (WEIT); 2023: Anais do VII Workshop-Escola de Informática Teórica, 2023)
Os Transformers emergiram como uma poderosa arquitetura em Inteligência Artificial, revolucionando várias tarefas de processamento de linguagem natural e processamento de imagem. Este artigo apresenta uma análise abrangente sobre a evolução dos Transformers historicamente, destacando seu mecanismo de autoatenção e finalizando com o novo modelo de Transformers Visual. Exploramos as principais contribuições dos trabalhos-chave na área até o desenvolvimento do Visual Transformers. Realizar uma análise sistemática nos ajuda a entender melhor o funcionamento desse modelo e quais são os tópicos chaves para cada abordagem.