GenAI na Cibersegurança: Desafios, Oportunidades e a Necessidade de Regulamentação no Contexto do AI Act

• Stefane Katarine Rodrigues da Silva IFMA
• Hugo Henrique Parreao Silva IFMA

DOI: https://doi.org/10.5753/laai-ethics.2024.32474

Resumo

O artigo discute o impacto da Inteligencia Artificial Generativa (GenAI) na cibersegurança, destacando seu potencial para melhorar a detecção de ameaças e fortalecer defesas. Contudo, ressalta os riscos associados, como violações de dados e vulnerabilidades. O texto aborda incidentes recentes envolvendo ferramentas de GenAI, que expuseram problemas de privacidade e segurança. Enfatiza a necessidade de uma estrutura regulatória adequada, como o AI Act, para garantir o uso ético e seguro da GenAI. Por fim, propõe uma metodologia para analisar comparativamente o uso da GenAI na cibersegurança em relação ao AI Act.

Palavras-chave: IA Generativa em Cibersegurança, Privacidade e Segurança de Dados, IA Ética

Referências

ChatGPT confirma violação de dados levantando preocupações de segurança. Security Intelligence, maio de 2023. Disponível em: https://securityintelligence.com/articles/chatgpt-confirms-data-breach/. Acesso em: 31 out. 2024.

FAIR Institute. FAIR Risk Management. Disponível em: https://www.fairinstitute.org/fair-risk-management. Acesso em: 31 out. 2024.

IBM. X-Force Threat Intelligence Index 2024. São Paulo: IBM Brasil Ltda; Armonk: IBM Corporation, fevereiro de 2024. Produzido nos Estados Unidos da América.

IPNET. Como manter sua organização segura ao usar inteligência generativa. 2024.

Lantyer, Victor Habib. Entendendo o EU AI Act: uma nova era na regulamentação da IA na Europa. Migalhas, 2023. Disponível em: https://www.migalhas.com.br/arquivos/2023/12/B6D06B89351862ArtigoRegulamentoEuropeudeIA-.pdf. Acesso em: 28 out. 2024.

Nazareno, Claudio. Regulação da inteligência artificial: experiências internacionais e desafios para o Brasil. Brasília: Câmara dos Deputados, 2024. (Estudo da Consultoria Legislativa).

N. Capodieci, C. Sanchez-Adames, J. Harris e U. Tatar, ”O impacto da IA generativa e LLMs na profissão de segurança cibernética”, Simpósio de Design de Engenharia de Sistemas e Informação de 2024 (SIEDS), Charlottesville, VA, EUA, 2024, pp. 448-453, doi: 10.1109/SIEDS61124.2024.10534674.

Os funcionários da Samsung cometeram um grande erro ao usar o ChatGPT, maio de 2023, [online] Disponível em: https://www.techradar.com/news/samsung-workersleaked-company-secrets-by-using-chatgpt.