LLM vs. LLM: uso de red team e AML para avaliar a segurança de LLMs - Oliveira, Diego E. G. C. de; Miers, Charles C. (Anais da Escola Regional de Redes de Computadores (ERRC); 2024: Anais da XXI Escola Regional de Redes de ComputadoresDO - 10.5753/errc.2024.4670, 2024)
A cibersegurança apresenta um desafio complexo no que tange proteção relacionada à Inteligência Artificial (IA). Esta área também propõe segurança no envolvimento de tecnologia, dados e indivíduos. Nesse sentido, envolvida à cibersegurança apresenta-se uma área chamada Adversarial Machine Learning (AML) que se aprofunda no estudo e desenvolvimento de ferramentas para proteção de inteligentes sistemas baseados no aprendizado de máquinas. Estudos tem sido realizados no âmbito de AML, muito embora com resultados de pesquisas direcionadas, geralmente, para um ou dois tipos de LLMs. Este artigo apresenta uma proposta para se aprofundar nos três principais LLMs (GPT-4, Google Gemini e LlaMA) e apresentar um método de identificação de ameaças utilizando Large Language Models (LLMs) contra LLMs para soluções baseadas em testes que visam mitigar a exploração de sistemas de maneira maliciosa.