COPEX revela taxa media de sucesso de 64,4% em ataques adversariais contra LLMs via Model Context Protocol
O benchmark COPEX isola a susceptibilidade do proprio modelo de linguagem a influencia adversarial dentro de sistemas MCP, fixando o restante da pilha de agente e variando apenas o modelo que seleciona ferramentas, testando 25 tipos de ataque em 125 cenarios distribuidos por quatro superficies de entrada (modelo/agente, cliente, servidor/ferramenta e transporte). Em 3.375 execucoes com nove modelos, a taxa media de sucesso de ataque foi de 64,4%, e defesas combinadas de escaneamento de entrada e contexto reduziram esse sucesso em cerca de 49,6%.
Fonte ↗