Impacto do Aprendizado de Máquina Adversário contra Detectores de Anomalias em Séries Temporais

• Felipe Dallmann Tomazeli UEL
• Gilberto Fernandes Junior UEL
• Bruno Bogaz Zarpelão UEL

DOI: https://doi.org/10.5753/sbseg.2024.241416

Resumo

A detecção de anomalias em séries temporais pode ser empregada para identificar automaticamente falhas, interrupções, e uso inadequado em dispositivos, serviços e sistemas. Algoritmos de aprendizado de máquina têm sido aplicados com sucesso para detectar anomalias em séries temporais de diversas naturezas. No entanto, é importante considerar que esses algoritmos são vulneráveis a ataques baseados em Aprendizado de Máquina Adversário, o que pode fazer com que anomalias não sejam detectadas, ou que situações normais sejam erroneamente detectadas como anomalias, gerando falsos positivos. Diante desta realidade, este trabalho investiga como ataques baseados em exemplos adversários podem impactar um modelo de detecção de anomalias baseado em uma rede neural Long Short-Term Memory (LSTM). No escopo deste estudo, são testados dois métodos de geração de exemplos adversários, um baseado na adição de ruído calculado sobre o desvio padrão e outro baseado na técnica Fast Gradient Sign Method (FGSM). Os resultados mostraram que o modelo baseado em detecção de anomalias tem queda de capacidade preditiva quando atacado, mas supera um classificador baseado em uma rede neural Multi-layer Perceptron (MLP) sob as mesmas condições.

Referências

Abadi, M., Agarwal, A., Barham, P., Brevdo, E., Chen, Z., Citro, C., Corrado, G. S., Davis, A., Dean, J., Devin, M., Ghemawat, S., Goodfellow, I., Harp, A., Irving, G., Isard, M., Jia, Y., Jozefowicz, R., Kaiser, L., Kudlur, M., Levenberg, J., Mané, D., Monga, R., Moore, S., Murray, D., Olah, C., Schuster, M., Shlens, J., Steiner, B., Sutskever, I., Talwar, K., Tucker, P., Vanhoucke, V., Vasudevan, V., Viégas, F., Vinyals, O., Warden, P., Wattenberg, M., Wicke, M., Yu, Y., and Zheng, X. (2015). TensorFlow: Large-scale machine learning on heterogeneous systems. Software available from [link].

Barrera-Animas, A. Y., Oyedele, L. O., Bilal, M., Akinosho, T. D., Delgado, J. M. D., and Akanbi, L. A. (2022). Rainfall prediction: A comparative analysis of modern machine learning algorithms for time-series forecasting. Machine Learning with Applications, 7:100204.

Carlini, N. and Wagner, D. (2017). Adversarial examples are not easily detected: Bypassing ten detection methods. In Proceedings of the 10th ACM workshop on artificial intelligence and security.

Chandola, V., Banerjee, A., and Kumar, V. (2009). Anomaly detection: A survey. ACM computing surveys (CSUR), 41(3).

Choi, K., Yi, J., Park, C., and Yoon, S. (2021). Deep learning for anomaly detection in time-series data: Review, analysis, and guidelines. IEEE Access, 9:120043–120065.

Gallagher, M., Pitropakis, N., Chrysoulas, C., Papadopoulos, P., Mylonas, A., and Katsikas, S. (2022). Investigating machine learning attacks on financial time series models. Computers & Security, 123:102933.

Goodfellow, I. J., Shlens, J., and Szegedy, C. (2014). Explaining and harnessing adversarial examples. arXiv preprint arXiv:1412.6572.

Harford, S., Karim, F., and Darabi, H. (2021). Generating adversarial samples on multivariate time series using variational autoencoders. IEEE/CAA Journal of Automatica Sinica, 8(9):1523–1538.

Huang, L., Joseph, A. D., Nelson, B., Rubinstein, B. I., and Tygar, J. D. (2011). Adversarial machine learning. In Proceedings of the 4th ACM workshop on Security and artificial intelligence.

Jia, Y., Wang, J., Poskitt, C. M., Chattopadhyay, S., Sun, J., and Chen, Y. (2021). Adversarial attacks and mitigation for anomaly detectors of cyber-physical systems. International Journal of Critical Infrastructure Protection, 34:100452.

Katser, I. D. and Kozitsin, V. O. (2020). Skoltech anomaly benchmark (skab). [link].

Khan, A. F., Kamalakannan, K., and Ahmed, N. S. S. (2023). Integrating machine learning and stochastic pattern analysis for the forecasting of time-series data. SN Computer Science, 4(5):484.

Khan, S. U., Mynuddin, M., and Nabil, M. (2024). Adaptedge: Targeted universal adversarial attacks on time series data in smart grids. IEEE Transactions on Smart Grid, pages 1–1.

Kim, K.-D. and Kumar, P. R. (2012). Cyber–physical systems: A perspective at the centennial. Proceedings of the IEEE, 100(Special Centennial Issue).

Sadeghzadeh, A. M., Shiravi, S., and Jalili, R. (2021). Adversarial network traffic: Towards evaluating the robustness of deep-learning-based network traffic classification. IEEE Transactions on Network and Service Management, 18(2):1962–1976.

Zhang, K., Wen, Q., Zhang, C., Cai, R., Jin, M., Liu, Y., Zhang, J. Y., Liang, Y., Pang, G., Song, D., and Pan, S. (2024). Self-supervised learning for time series analysis: Taxonomy, progress, and prospects. IEEE Transactions on Pattern Analysis and Machine Intelligence, pages 1–20.

Zhou, X., Kouzel, M., and Alemzadeh, H. (2022). Robustness testing of data and knowledge driven anomaly detection in cyber-physical systems. In 2022 52nd Annual IEEE/IFIP International Conference on Dependable Systems and Networks Workshops (DSN-W), pages 44–51.