BMA: ataque demonstra como envenenar memória persistente de agentes LLM sem escrever na memória nem alterar a tarefa
Pesquisadores apresentam o Backchain Memory Attack (BMA), que manipula evidências de baixa confiança consumidas por um agente LLM de forma que, quando consolidadas em memória persistente, acabam sendo recuperadas depois em uma tarefa completamente limpa e usadas para disparar uma ação protegida não autorizada. O ataque alcança 18,8% de taxa de sucesso certificada por caminho (contra 13,4% da melhor linha de base), e controles de proveniência vinculada reduzem esse número para 2% preservando 92,1% das ações legítimas.
Fonte ↗