#adversarial-patch — OlimpoSec

panoramaOS-2026-643 · 2026-10-09

MRCert certifica robustez contra patches adversariais sem sacrificar acuracia do modelo

Um novo defensor baseado em mascaramento consegue, pela primeira vez, certificar formalmente que a predicao de um classificador de imagens nao foi manipulada por um patch adversarial fisico sem a perda de acuracia tipica de metodos baseados em suavizacao. Em testes no ImageNet, o MRCert atingiu 35,1% de acuracia certificada contra patches de 16 pixels, enquanto o estado da arte anterior falhou completamente nesse cenario.

#adversarial-patch #certified-robustness #computer-vision #artigo-cientifico

Fonte ↗

panoramaOS-2026-638 · 2026-10-08

Modelos de visao-linguagem-acao herdam vulnerabilidades adversariais de seus modelos de visao-linguagem ancestrais, mesmo em ataque black-box

Pesquisadores demonstraram que e possivel atacar modelos de Visao-Linguagem-Acao (VLAs) usados em robotica -- sistemas que convertem percepcao visual e instrucoes em acoes fisicas -- tendo acesso apenas ao modelo de visao-linguagem (VLM) publico do qual o VLA foi derivado, sem qualquer acesso ao VLA implantado em si. Patches adversariais otimizados sobre o VLM ancestral causaram degradacao substancial na taxa de sucesso de tarefas em diferentes familias de VLA, tanto em simulacao quanto em imagens estaticas do mundo real, revelando que a adaptacao de um VLM para controle robotico nao elimina automaticamente as fragilidades adversariais herdadas da base visual-linguistica.

#artigo-cientifico #vla #adversarial-patch #robotica #black-box-attack #vision-language-model

Fonte ↗