ASPIRE automatiza red-teaming de prompt injection com memoria entre execucoes e grafo evolutivo de comportamentos de risco
Pesquisadores do Google apresentaram o ASPIRE, um motor de red-teaming que mantem um grafo de comportamentos de seguranca de agentes em constante evolucao e usa dois agentes complementares -- um de exploracao e outro de exploracao intensiva (exploit) -- para descobrir, verificar e generalizar testes de prompt injection indireto centrados em consequencias reais, em vez de cobrir apenas cenarios pre-definidos pelo pesquisador humano.
Fonte ↗