UniChat: Arquitetura e Avaliação de um Agente RAG de Baixo Custo para o Contexto Universitário
Resumo
Este artigo apresenta o UniChat, chatbot de baixo custo baseado em RAG para otimizar o acesso à informação universitária. A solução utiliza tecnologias gratuitas e de código aberto como n8n, PostgreSQL e Google Gemini. As principais contribuições incluem a arquitetura de baixo custo, análise empírica da correlação entre o formato dos documentos-fonte e a acurácia das respostas, e validação da experiência do usuário com Think Aloud e AttrakDiff Mini. Testes com usuários reais demonstraram uma taxa de sucesso de 76,7% e percepção positiva de funcionalidade e intuitividade. O UniChat tem potencial para aprimorar a comunicação universitária e reduzir a sobrecarga administrativa.
Referências
Aquino, J. et al. (2024). Extracting information from brazilian legal documents with retrieval augmented generation. In Anais Estendidos do XXXIX Simpósio Brasileiro de Bancos de Dados (SBBD), Porto Alegre, RS.
Azzolin, J. a. V. (2022). Guribo: Chatterbot para auxílio à secretaria acadêmica do campus alegrete. Trabalho de Conclusão de Curso, Universidade Federal do Pampa.
Barbosa, M., Nakamura, W. T., Valle, P., Guerino, G. C., Finger, A. F., Lunardi, G. M., and Silva, W. (2022a). Ux of chatbots: An exploratory study on acceptance of user experience evaluation methods. In Proceedings of the 24th International Conference on Enterprise Information Systems (ICEIS) – Volume 2, pages 355–363. SciTePress.
Barbosa, M., Valle, P., Nakamura, W., Guerino, G., Finger, A., Lunardi, G., and Silva, W. (2022b). Um estudo exploratório sobre métodos de avaliação de user experience em chatbots. In Anais da VI Escola Regional de Engenharia de Software, Porto Alegre, RS, Brasil. SBC.
Estrela, I. R. B. et al. (2024). Ferramenta cosmobot: Um chatbot de apoio a alunos em avaliações de algoritmos. In Anais do XXXV Simpósio Brasileiro de Informática na Educação (SBIE), pages 380–391, Rio de Janeiro, RJ.
Kamalloo, E., Dziri, N., Clarke, C. L. A., and Rafiei, D. (2023). Evaluating open-domain question answering in the era of large language models.
Lewis, P., Perez, E., Piktus, A., Petroni, F., Karpukhin, V., Goyal, N., Küttler, H., Lewis, M., Yih, W.-t., Rocktäschel, T., Riedel, S., and Kiela, D. (2020). Retrieval-augmented generation for knowledge-intensive nlp tasks. In Proceedings of the 34th International Conference on Neural Information Processing Systems (NeurIPS), pages 9459–9474.
Lunardi, G. M., Machado, G. M., Al Machot, F., Maran, V., Machado, A., Mayr, H. C., Shekhovtsov, V. A., and de Oliveira, J. P. M. (2018). Probabilistic ontology reasoning in ambient assistance: predicting human actions. In 2018 IEEE 32nd International Conference on Advanced Information Networking and Applications (AINA), pages 593–600. IEEE.
Moreira, L. S., Lunardi, G. M., de Oliveira Ribeiro, M., Silva, W., and Basso, F. P. (2023). A study of algorithm-based detection of fake news in brazilian election: Is bert the best. IEEE Latin America Transactions, 21(8):897–903.
Oro, E., Granata, F. M., Lanza, A., Bachir, A., Grandis, L. D., and Ruffolo, M. (2024). Evaluating retrieval-augmented generation for question answering with large language models. In Proceedings of Ital-IA 2024 – 4th National Conference on Artificial Intelligence, Thematic Workshops, volume 3762, pages 12–17, Naples, Italy.
Silva, L. and Nascimento, T. P. d. (2023). Chatbot polímata: Assistente aberto para informações do curso. Projeto da Universidade Federal do Amapá.
Taschetto, M. et al. (2024). Using retrieval-augmented generation to improve performance of large language models on the brazilian university admission exam. In Anais do XXXIX Simpósio Brasileiro de Bancos de Dados (SBBD), Porto Alegre, RS.
Vieira, D. et al. (2023). Design of a smart garment for fencing: measuring attractiveness using the attrakdiff mini method. Human-Intelligent Systems Integration, 5(1–2):1–9.
Zuboff, S. (2019). A era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder. Intrínseca, Rio de Janeiro.
