Pesquisadores propuseram o Secure-CUA, um sistema que protege agentes de uso de computador (Computer-Use Agents) contra conteudo malicioso embutido em interfaces graficas ao comprometer-se com um 'programa' explicito de acao antes de acessar qualquer conteudo nao confiavel, mascarando regioes nao confiaveis da tela e isolando as consultas que dependem desse conteudo. Em 400 tarefas do benchmark WebArena com tres modelos de fronteira, o sistema manteve taxa de sucesso de 53,55% (contra 55,12% da versao sem protecao), uma perda minima de utilidade em troca de seguranca formalmente garantida sob as premissas do modelo.
Fonte ↗Pesquisadores demonstram uma nova classe de ataque, chamada "branch steering", que engana agentes de uso de computador (Computer Use Agents) para seguirem um caminho de execução pré-aprovado, mas perigoso, sem precisar injetar instruções explícitas — basta manipular o conteúdo de uma página ou resposta de ferramenta. O ataque atinge 94,4% de sucesso contra agentes padrão e ainda 89,5% contra a arquitetura Dual-LLM, considerada referência em garantias formais de segurança. Os autores propõem o COBRA, que combina planos de ramificação confiáveis com restrições de capacidade definidas antecipadamente, reduzindo o sucesso do ataque a 0% enquanto mantém 97% da utilidade em tarefas legítimas.
Fonte ↗Pesquisadores propõem um framework de avaliação ponta a ponta para testar se um patch visual local, embutido numa página web, consegue disparar injeção de comando contra agentes de uso de computador (CUAs) multimodais. Em 600 casos de teste contra cinco back-ends abertos de agente/VLM, o ataque atingiu 84,5% de sucesso ao nível do modelo de visão e 20,3% de sucesso ponta a ponta, com casos registrados em que o agente executa um comando malicioso de terminal e depois retoma a tarefa original como se nada tivesse acontecido.
Fonte ↗Pesquisadores apresentam o ADeptS-Bench, benchmark que avalia se agentes de uso de computador (Computer Use Agents) resistem a ameacas embutidas na propria interface visual e se pedem esclarecimento diante de instrucoes ambiguas. Nenhum dos sete modelos avaliados consegue manter mais de 80% de sucesso em tarefas legitimas com menos de 30% de taxa de sucesso de ataque, e nenhum detecta um botao de 'reset de fabrica' disfarçado como 'Otimizar'.
Fonte ↗