Na batida do funk: modelagem de tópicos combinando LLM, Engenharia de Prompt e BERTopic

• Jesus Yepez Universidade Federal do Rio Grande do Sul (UFRGS)
• Bruno Tavares Universidade Federal do Rio Grande do Sul (UFRGS)
• Fabíola Peres Universidade Federal do Rio Grande do Sul (UFRGS)
• Karin Becker Universidade Federal do Rio Grande do Sul (UFRGS) https://orcid.org/0000-0003-4967-1027

DOI: https://doi.org/10.5753/sbbd.2024.243148

Resumo

Letras de músicas impõem desafios à modelagem de tópicos, já que o discurso nem sempre é explícito, devendo ser compreendido dentro de seu contexto, sua linguagem figurativa e poética, gírias, etc. Este artigo propõe o LLMusic, uma nova abordagem de modelagem de tópicos que explora o potencial de Grandes Modelos de Linguagem (LLMs) para analisar letras de música, utilizando o funk brasileiro como estudo de caso. O Funk, muito popular no país, é um rico retrato social da periferia. LLMs e prompting são usados para resumir trechos de músicas em temas centrais, em um processo iterativo e não supervisionado aplicado a um corpus representativo do gênero. Esses temas são agrupados em um conjunto enxuto e coerente de tópicos usando BERTopic. Novos trechos de música são classificados nesses tópicos usando prompts zero-shot. Usamos LLMusic para analisar o discurso dos 100 funks mais populares, mostrando seu potencial para análise em larga escala.

Palavras-chave: Modelagem de tópicos, Large Language Model, Prompting Engineer, BERTopic, Funk brasileiro

Referências

Betti, L., Abrate, C., and Kaltenbrunner, A. (2023). Large scale analysis of gender bias and sexism in song lyrics. EPJ Data Science, 12(1):10.

Blei, D. M., Ng, A. Y., and Jordan, M. I. (2003). Latent dirichlet allocation. Journal of Machine Learning Research, 3:993–1022.

Brilhante, A. V. M., Giaxa, R. R. B., Branco, J. G. d. O., and Vieira, L. J. E. d. S. (2019). Cultura do estupro e violência ostentação: uma análise a partir da artefactualidade do funk. Interface-Comunicação, Saúde, Educação, 23:e170621.

Calcina, Erik e Novak, E. (2022). Measuring the similarity of song artists using topic modelling. In Proc. of the 25th Intl. Multiconference Information Society - Data Mining and Data Warehouses (SiKDD), page 103–106.

Devi, M. D. and Saharia, N. (2020). Exploiting topic modelling to classify sentiment from lyrics. In Proc. of the 2nd Intl. Conferemce on Machine Learning, Image Processing, Network Security and Data Sciences (MIND), pages 411–423.

Grootendorst, M. (2022). BERTopic: Leveraging bert and topic modeling for efficient document clustering. [link].

Junior, J. S., Rossi, R., and Lobato, F. (2019). Uma abordagem baseada em letras para a descoberta de conhecimento da música brasileira: o sertanejo como um estudo de caso. In Anais do XVI Encontro Nacional de Inteligência Artificial e Computacional, pages 949–960.

Lopes, A. C. (2011). Funk-se Quem Quiser: No Batidão Negro Da Cidade Carioca. Bom Texto FAPERJ.

Oramas, S., Espinosa-Anke, L., Gómez, F., and Serra, X. (2018). Natural language processing for music knowledge discovery. Journal of New Music Research, 47:365–382.

Pengfei Liu, Weizhe Yuan, J. F. Z. J. H. H. and Neubig, G. (2023). Pre-train, prompt, and predict: A systematic survey ofprompting methods in natural language processing. ACMCom-put., 55(9):35.

Peres, F. C. (2023). Puta ou santa: as relações com mulheres enquanto elemento constituinte das masculinidades do funk brasileiro? In Anais do IV Encontro Anual de Antropologia do Mercosul.

Pham, C. M., Hoyle, A., Sun, S., Resnik, P., and Iyyer, M. (2024). Topicgpt: A prompt-based topic modeling framework. DOI: 10.48550/arXiv.2311.01449.

Ramon Pires, Hugo Abonizio, T. S. A. and Nogueira, R. (2023). Sabía: Portuguese large language models. Anais da XII Brazilian Conference on Intelligent Systems, 12(1):15.

Röder, M., Both, A., and Hinneburg, A. (2015). Exploring the space of topic coherence measures. In Proceedings of the eighth ACM international conference on Web search and data mining, pages 399–408.

Zhang, T., Ladhak, F., Durmus, E., Liang, P., McKeown, K., and Hashimoto, T. B. (2024). Benchmarking Large Language Models for News Summarization. Transactions of the Association for Computational Linguistics, 12:39–57.