MultiMagNet: Uma Abordagem Não Determinística na Escolha de Múltiplos Autoencoders para Detecção de Imagens Contraditó rias

  • Gabriel R. Machado
  • Eugênio Silva
  • Ronaldo R. Goldschmidt

Resumo


Estudos mostram que os algoritmos de aprendizado de máquina podem ser induzidos a cometer erros de classificação diante de imagens contradit órias. Uma pesquisa recente criou um método que incorpora um componente n ão determinístico para detectar essas imagens. O n ão determinismo dificulta ao atacante mapear o comportamento do método. No entanto, essa abordagem tem sido superada por ataques aplicados de forma sistemática, que conseguiram abstrair a essência do comportamento de defesa. Assim, este artigo tem como objetivo propor um método de detecção que, ao considerar múltiplos componentes aleat órios, amplia o efeito do n ão determinismo. Resultados experimentais comprovam a robustez do método proposto frente aos ataques do estado da arte.
Publicado
25/10/2018
Como Citar

Selecione um Formato
MACHADO, Gabriel R.; SILVA, Eugênio; GOLDSCHMIDT, Ronaldo R.. MultiMagNet: Uma Abordagem Não Determinística na Escolha de Múltiplos Autoencoders para Detecção de Imagens Contraditó rias. In: SIMPÓSIO BRASILEIRO EM SEGURANÇA DA INFORMAÇÃO E DE SISTEMAS COMPUTACIONAIS (SBSEG) , 2018 Anais do XVIII Simpósio Brasileiro em Segurança da Informação e de Sistemas Computacionais. Porto Alegre: Sociedade Brasileira de Computação, oct. 2018 . p. 281 - 294.