Protegendo agentes de uso de computador contra ataques de "direcionamento de ramificação"
Pesquisadores demonstram uma nova classe de ataque, chamada "branch steering", que engana agentes de uso de computador (Computer Use Agents) para seguirem um caminho de execução pré-aprovado, mas perigoso, sem precisar injetar instruções explícitas — basta manipular o conteúdo de uma página ou resposta de ferramenta. O ataque atinge 94,4% de sucesso contra agentes padrão e ainda 89,5% contra a arquitetura Dual-LLM, considerada referência em garantias formais de segurança. Os autores propõem o COBRA, que combina planos de ramificação confiáveis com restrições de capacidade definidas antecipadamente, reduzindo o sucesso do ataque a 0% enquanto mantém 97% da utilidade em tarefas legítimas.
Fonte ↗