Impacto do Aprendizado de Máquina Adversário contra Detectores de Anomalias em Séries Temporais - Tomazeli, Felipe Dallmann; Fernandes Junior, Gilberto; Zarpelão, Bruno Bogaz (Anais do Simpósio Brasileiro de Cibersegurança (SBSeg); 2024: Anais do XXIV Simpósio Brasileiro de Segurança da Informação e de Sistemas Computacionais, 2024)
A detecção de anomalias em séries temporais pode ser empregada para identificar automaticamente falhas, interrupções, e uso inadequado em dispositivos, serviços e sistemas. Algoritmos de aprendizado de máquina têm sido aplicados com sucesso para detectar anomalias em séries temporais de diversas naturezas. No entanto, é importante considerar que esses algoritmos são vulneráveis a ataques baseados em Aprendizado de Máquina Adversário, o que pode fazer com que anomalias não sejam detectadas, ou que situações normais sejam erroneamente detectadas como anomalias, gerando falsos positivos. Diante desta realidade, este trabalho investiga como ataques baseados em exemplos adversários podem impactar um modelo de detecção de anomalias baseado em uma rede neural Long Short-Term Memory (LSTM). No escopo deste estudo, são testados dois métodos de geração de exemplos adversários, um baseado na adição de ruído calculado sobre o desvio padrão e outro baseado na técnica Fast Gradient Sign Method (FGSM). Os resultados mostraram que o modelo baseado em detecção de anomalias tem queda de capacidade preditiva quando atacado, mas supera um classificador baseado em uma rede neural Multi-layer Perceptron (MLP) sob as mesmas condições.