Comparação do Impacto de Ataques Adversariais Contra Modelo de Classificação baseado em ML - Pelloso, Mateus; Nogueira, Michele (Anais do Workshop de Gerência e Operação de Redes e Serviços (WGRS); 2024: Anais do XXIX Workshop de Gerência e Operação de Redes e ServiçosDO - 10.5753/wgrs.2024.3274, 2024)
Os ataques adversariais são um risco iminente para soluções baseadas em Inteligência Artificial. A principal característica é provocar o mau funcionamento de modelos de aprendizado de máquina por meio da geração de amostras adversariais. As soluções de cibersegurança se beneficiam desses modelos para classificar dados trafegados na Internet, tanto benignos quanto de ataque. Neste contexto, a proposta deste estudo é avaliar técnicas geradoras de amostras adversárias, compreender sua dinâmica e o impacto causado contra um modelo de aprendizado de máquina. A avaliação tomou por base indicadores como accuracy, precision, recall e f1-score. O cenário utilizado consiste no treinamento e validação de um modelo baseado em rede neural em associação com o conjunto de dados CIC-IDS2017. As técnicas avaliadas se apresentaram efetivas em diminuir a robustez do modelo classificador de tráfego, decrescendo a acurácia de 93% para 7%, aproximadamente.