Prompt injection contra modelos de decisão "tipados" tem baixa taxa de sucesso, mas dobra com ataques adaptativos
O estudo testa injeção de prompt contra o Jev, um modelo de decisão não generativo que retorna apenas uma escolha entre ações permitidas em vez de texto livre, usando 510 casos reconstruídos do benchmark InjecAgent. Conteúdo malicioso desloca as probabilidades de ação mas raramente faz o Jev escolher o alvo do atacante; porém, ataques adaptativos que usam o próprio score do modelo como feedback dobram a probabilidade média atingida e elevam a taxa de sucesso em validação de 1,8% para 3,5%.
Fonte ↗