tema

#envenenamento-memoria

2 publicações marcadas com esta tag.

risco médioOS-2026-447 · 2026-09-17

Pesquisa mostra como um agente de IA comprometido pode contaminar outros agentes em um pipeline multiagente

Pesquisadores construíram um pipeline de quatro agentes LLM (Supervisor, Researcher, Validator, Executor) em LangGraph e mostraram que envenenamento de memória compartilhada e injeção indireta de prompt propagam compromisso de um agente de baixo privilégio para um de alto privilégio em 100% dos casos sem defesa. Uma camada de autorização baseada em tokens assinados e um oráculo de política independente contiveram a ação insegura final mesmo quando o julgamento do agente Validator continuava comprometido.

#artigo-cientifico #agentes-ia #prompt-injection #envenenamento-memoria #multiagente #autorizacao

Fonte ↗

risco médioOS-2026-022 · 2026-07-17

MemPoison mapeia pontos cegos estruturais de defesas contra envenenamento de memória em agentes LLM

MemPoison é um benchmark com 1.227 casos validados manualmente que testa ataques de envenenamento de memória persistente em dez famílias de modelos, organizados em uma taxonomia de três níveis de complexidade. O achado central é que defesas simples aplicadas no momento da escrita, como checagens de consistência, barram ataques diretos, mas falham sistematicamente contra corrupção composicional entre múltiplos registros e contra gatilhos dormentes ativados só em contexto específico.

#envenenamento-memoria #agentes-ia #llm #artigo-cientifico #seguranca-defensiva

Fonte ↗