Estudo comparativo do uso de LLM para atividades de Red Team em LLM - Alves, Ana C. V.; Miers, Charles C. (Anais da Escola Regional de Redes de Computadores (ERRC); 2024: Anais da XXI Escola Regional de Redes de Computadores, 2024)
O uso de Large Language Models (LLMs) cada vez mais intensivo e com expressivos parâmetros e entendimento de contexto pode ser explorado para causar problemas de segurança. Este trabalho visa esclarecer uma comparação entre as ferramentas disponíveis para detecção de vulnerabilidades no escopo de Red Teaming em LLMs. Foi realizada uma revisão sistemática, bem como comparações de algoritmos de estado da arte na área com novas propostas o uso de LLMs de forma adversária a algoritmos da mesma forma, uma nova subárea de pesquisa de jailbreaks é revisada neste artigo.