Explorando Perturbações Adversariais em BCIs via Detectores Baseados em Sistemas Fuzzy
Resumo
Interface cérebro-computador (do inglês, Brain-Computer Interface - BCI) permite a comunicação direta entre o cérebro e sistemas computacionais, com aplicações em saúde, entretenimento e acessibilidade. No entanto, modelos de classificação de sinais EEG estão sujeitos a ataques adversariais, que introduzem pequenas perturbações nos sinais para enganar os classificadores. Este trabalho investiga o impacto desses ataques e o desempenho de mecanismos de detecção baseados em algoritmos de aprendizado de máquina e sistemas fuzzy. Para isso, foi implementado um sistema fuzzy e comparado com detectores Random Forest e SVM, utilizando ataques FGSM e DeepFool sobre o classificador EEGNet treinado com dados da BCI Competition IV 2a. Os resultados deste trabalho indicam que é possível detectar ataques moderados com bom desempenho, embora ataques mais sutis ainda representem um desafio. Os experimentos evidenciam a necessidade de métodos de detecção mais robustos em ambientes BCI.
Palavras-chave:
Interfaces cérebro computador, ataques adversariais, sistemas fuzzy
Referências
Aissa, N. E. H. S. B., Kerrache, C. A., Korichi, A., Lakas, A., and Belkacem, A. N. (2024). Enhancing eeg signal classifier robustness against adversarial attacks using a generative adversarial network approach. IEEE Int. of Things Magazine, 7(3):44–49. DOI: 10.1109/IOTM.001.2300262
Aissa, N. E. H. S. B., Lakas, A., Korichi, A., Kerrache, C. A., and Belkacem, A. N. (2023). Robust detection of adversarial attacks for eeg-based motor imagery classi fication using hierarchical deep learning. In 2023 15th International Conference on Innovations in Information Technology (IIT), pages 156–161. DOI: 10.1109/IIT59782.2023.10366492
Antunes, R. A., Dalmazo, B. L., and Drews, P. L. J. (2022). Detecting data injection attacks in ros systems using machine learning. In 2022 Latin American Robotics Symposium (LARS), 2022 Brazilian Symposium on Robotics (SBR), and 2022 Workshop on Robotics in Education (WRE), pages 1–6. DOI: 10.1109/LARS/SBR/WRE56824.2022.9995917
Ayres, D., Quevedo, A., Lucca, G., Dimuro, G., and Dalmazo, B. (2024). Comparando médias móveis com integral de choquet para detectar anomalias no tráfego de redes. In Anais Estendidos do XXIV Simpósio Brasileiro de Segurança da Informação e de Sistemas Computacionais, pages 353–357, Porto Alegre, RS, Brasil. SBC. DOI: 10.5753/sbseg_estendido.2024.243381
Bernal, S. L., Celdrán, A. H., Pérez, G. M., Barros, M. T., and Balasubramaniam, S. (2021). Security in brain-computer interfaces: State-of-the-art, opportunities, and future challenges. ACM Comput. Surv., 54(1). DOI: 10.1145/3427376
C. Brunner, R. Leeb, G. R. M.-P. A. S. and Pfurtscheller1, G. (2008). Bci competition 2008 graz data set a.
Dalmazo, B. L., Vilela, J. P., and Curado, M. (2017). Performance analysis of network traffic predictors in the cloud. Journal of Network and Systems Management, 25:290–320. DOI: 10.1007/s10922-016-9392-x
Dalmazo, B. L., Vilela, J. P., and Curado, M. (2018). Triple-similarity mechanism for alarm management in the cloud. Computers & Security, 78:33–42. DOI: 10.1016/j.cose.2018.05.016
Jiang, X., Zhang, X., and Wu, D. (2019). Active learning for black-box adversarial attacks in eeg-based brain-computer interfaces. In 2019 IEEE Symposium Series on Computational Intelligence (SSCI), pages 361–368. DOI: 10.1109/SSCI44817.2019.9002719
Jung, J., Moon, H., Yu, G., and Hwang, H. (2023). Generative perturbation network for universal adversarial attacks on brain-computer interfaces. IEEE Journal of Biomedical and Health Informatics, 27(11):5622–5633. DOI: 10.1109/JBHI.2023.3303494
Lawhern, V. J., Solon, A. J., Waytowich, N. R., Gordon, S. M., Hung, C. P., and Lance, B. J. (2018). Eegnet: a compact convolutional neural network for eeg-based brain–computer interfaces. Journal of Neural Engineering, 15(5):056013. DOI: 10.1088/1741-2552/aace8c
Li, Y., Angelov, P., and Suri, N. (2024). Adversarial attack detection via fuzzy predictions. IEEE Transactions on Fuzzy Systems, 32(12):7015–7024. DOI: 10.1109/TFUZZ.2024.3473768
Liu, Q., Li, P., Zhao, W., Cai, W., Yu, S., and Leung, V. C. M. (2018). A survey on security threats and defensive techniques of machine learning: A data driven view. IEEE Access, 6:12103–12117. DOI: 10.1109/ACCESS.2018.2805680
Santo, Y., Immich, R., Dalmazo, B. L., and Riker, A. (2023). Fault detection on the edge and adaptive communication for state of alert in industrial internet of things. Sensors, 23(7). DOI: 10.3390/s23073544
Aissa, N. E. H. S. B., Lakas, A., Korichi, A., Kerrache, C. A., and Belkacem, A. N. (2023). Robust detection of adversarial attacks for eeg-based motor imagery classi fication using hierarchical deep learning. In 2023 15th International Conference on Innovations in Information Technology (IIT), pages 156–161. DOI: 10.1109/IIT59782.2023.10366492
Antunes, R. A., Dalmazo, B. L., and Drews, P. L. J. (2022). Detecting data injection attacks in ros systems using machine learning. In 2022 Latin American Robotics Symposium (LARS), 2022 Brazilian Symposium on Robotics (SBR), and 2022 Workshop on Robotics in Education (WRE), pages 1–6. DOI: 10.1109/LARS/SBR/WRE56824.2022.9995917
Ayres, D., Quevedo, A., Lucca, G., Dimuro, G., and Dalmazo, B. (2024). Comparando médias móveis com integral de choquet para detectar anomalias no tráfego de redes. In Anais Estendidos do XXIV Simpósio Brasileiro de Segurança da Informação e de Sistemas Computacionais, pages 353–357, Porto Alegre, RS, Brasil. SBC. DOI: 10.5753/sbseg_estendido.2024.243381
Bernal, S. L., Celdrán, A. H., Pérez, G. M., Barros, M. T., and Balasubramaniam, S. (2021). Security in brain-computer interfaces: State-of-the-art, opportunities, and future challenges. ACM Comput. Surv., 54(1). DOI: 10.1145/3427376
C. Brunner, R. Leeb, G. R. M.-P. A. S. and Pfurtscheller1, G. (2008). Bci competition 2008 graz data set a.
Dalmazo, B. L., Vilela, J. P., and Curado, M. (2017). Performance analysis of network traffic predictors in the cloud. Journal of Network and Systems Management, 25:290–320. DOI: 10.1007/s10922-016-9392-x
Dalmazo, B. L., Vilela, J. P., and Curado, M. (2018). Triple-similarity mechanism for alarm management in the cloud. Computers & Security, 78:33–42. DOI: 10.1016/j.cose.2018.05.016
Jiang, X., Zhang, X., and Wu, D. (2019). Active learning for black-box adversarial attacks in eeg-based brain-computer interfaces. In 2019 IEEE Symposium Series on Computational Intelligence (SSCI), pages 361–368. DOI: 10.1109/SSCI44817.2019.9002719
Jung, J., Moon, H., Yu, G., and Hwang, H. (2023). Generative perturbation network for universal adversarial attacks on brain-computer interfaces. IEEE Journal of Biomedical and Health Informatics, 27(11):5622–5633. DOI: 10.1109/JBHI.2023.3303494
Lawhern, V. J., Solon, A. J., Waytowich, N. R., Gordon, S. M., Hung, C. P., and Lance, B. J. (2018). Eegnet: a compact convolutional neural network for eeg-based brain–computer interfaces. Journal of Neural Engineering, 15(5):056013. DOI: 10.1088/1741-2552/aace8c
Li, Y., Angelov, P., and Suri, N. (2024). Adversarial attack detection via fuzzy predictions. IEEE Transactions on Fuzzy Systems, 32(12):7015–7024. DOI: 10.1109/TFUZZ.2024.3473768
Liu, Q., Li, P., Zhao, W., Cai, W., Yu, S., and Leung, V. C. M. (2018). A survey on security threats and defensive techniques of machine learning: A data driven view. IEEE Access, 6:12103–12117. DOI: 10.1109/ACCESS.2018.2805680
Santo, Y., Immich, R., Dalmazo, B. L., and Riker, A. (2023). Fault detection on the edge and adaptive communication for state of alert in industrial internet of things. Sensors, 23(7). DOI: 10.3390/s23073544
Publicado
10/09/2025
Como Citar
COSTA, Beatriz C. da; LUCCA, Giancarlo; SANTOS, Helida; DALMAZO, Bruno.
Explorando Perturbações Adversariais em BCIs via Detectores Baseados em Sistemas Fuzzy. In: WORKSHOP-ESCOLA DE INFORMÁTICA TEÓRICA (WEIT), 8. , 2025, Ponta Grossa/PR.
Anais [...].
Porto Alegre: Sociedade Brasileira de Computação,
2025
.
p. 172-177.
