tema

#seguranca-de-modelo

2 publicações marcadas com esta tag.

risco médioOS-2026-294 · 2026-08-26

ROBBIN usa Rowhammer para implantar backdoors em modelos de IA direto na memória

Pesquisadores demonstram um ataque "hardware-aware" que explora os bit-flips do Rowhammer em DRAM DDR4 real para injetar backdoors em redes neurais durante a inferência, atingindo cerca de 90% de taxa de sucesso mantendo mais de 83% de acurácia normal, adaptando o ataque ao padrão específico de cada chip.

#rowhammer #backdoor #hardware #seguranca-de-modelo #artigo-cientifico

Fonte ↗

risco médioOS-2026-302 · 2026-08-26

RACER remove backdoors de modelos multimodais usando apenas 100 amostras limpas

Framework de reparo identifica uma "anomalia de inconsistência entre camadas" causada por gatilhos de backdoor em regiões específicas dos tokens visuais ou textuais de um MLLM, e usa esse sinal para gerar um ajuste fino adversarial que elimina o comportamento malicioso sem precisar saber qual é o gatilho.

#backdoor #mllm #reparo-de-modelo #seguranca-de-modelo #artigo-cientifico

Fonte ↗