#defesa-em-camadas — OlimpoSec

panoramaOS-2026-482 · 2026-09-21

Maior estudo comparativo de defesas contra jailbreak em LLM conclui que nenhuma defesa isolada é suficiente

O CASCADE testou 19 ataques de jailbreak contra 15 defesas diferentes, combinadas em várias etapas do pipeline de um LLM, sob um protocolo padronizado de avaliação — algo que faltava numa literatura até então fragmentada por métricas inconsistentes de taxa de sucesso de ataque. A conclusão central, aceita para o EMNLP 2026, é que nenhuma defesa isolada domina todos os cenários, mas combinações bem escolhidas entre estágios reduzem bastante o risco com pouca perda de utilidade do modelo.

#jailbreak #defesa-em-camadas #llm #benchmark #artigo-cientifico

Fonte ↗

risco médioOS-2026-325 · 2026-08-31

Empilhar defesas de LLM não soma proteção como se pensava, mostra estudo sobre correlação de falhas

Times que empilham várias defesas de LLM costumam assumir que elas se complementam, mas isso só é matematicamente verdade se cada camada falhar em entradas diferentes das outras. Medindo um adversário adaptativo único contra uma pilha de sete camadas defensivas, os autores encontraram correlação positiva de falha em todos os quinze pares mensuráveis (φ entre 0,30 e 0,75), fazendo o sucesso residual do ataque superar em até 0,172 a previsão multiplicativa ingênua, enquanto a pilha inteira recusa quatro em cada cinco prompts benignos e não se distingue estatisticamente da sua camada mais forte isolada.

#artigo-cientifico #llm #defesa-em-camadas #jailbreak #avaliacao-de-seguranca

Fonte ↗