Análise comparativa sobre atividades de Red Team de LLMs com LLMs - Alves, Ana Carolina Vedoy; Pagliusi Neto, Milton Pedro; Miers, Charles Christian (Anais da Escola Regional de Alto Desempenho da Região Sul (ERAD-RS), 2025)
O uso de Large Language Models (LLMs) cada vez mais intensivo e com expressivos parâmetros e entendimento de contexto pode ser explorado para causar problemas de segurança. Este trabalho visa esclarecer uma comparação entre as ferramentas disponíveis para detecção de vulnerabilidades no escopo de Red Teaming em LLMs. Foi realizada uma revisão sistemática, bem como comparações de algoritmos de estado da arte na área com novas propostas o uso de LLMs de forma adversária a algoritmos da mesma forma. Foi realizada uma comparação inicial levando em comparação o desempenho e reprodutibilidade de dois algoritmos: AutoDAN e GCG.