Pesquisadores apresentam o MATE, um auditor leve para agentes móveis baseados em modelos de fundação que verifica, a partir da sequência de ações do agente e de uma política de segurança escrita em linguagem natural, se houve violação e por quê. Tratando a política como texto editável em vez de parâmetro fixo do modelo, o sistema evita retreinamento a cada nova regra e atingiu mais de 95% de acurácia ao auditar agentes de produção reais como o AutoGLM (Zhipu) e o Mobile-Agent (Alibaba).
Fonte ↗Pesquisadores demonstram que um aplicativo Android reempacotado pode incorporar perturbações visuais que direcionam agentes móveis de IA para ações escolhidas pelo atacante, permanecendo totalmente funcional e visualmente idêntico para o usuário humano. Em avaliação com cinco frameworks de agente e três modelos de base, a taxa média de sucesso do ataque chegou a 77,9% em análise estática e 66,9% em execução real, e um estudo com 186 pessoas confirmou que a perturbação é praticamente imperceptível.
Fonte ↗Pesquisadores demonstraram sete técnicas de ataque contra cinco frameworks populares de agentes móveis de código aberto (AppAgent, AppAgentX, Mobile-Agent-v3, Open-AutoGLM e MobA), com cada framework vulnerável a pelo menos seis delas. A cadeia mais grave usa texto com opacidade quase nula, invisível ao olho humano mas perfeitamente legível pelo modelo de visão do agente, para injetar um comando shell que é concatenado sem sanitização e executado no computador que controla o telefone via ADB, lançando uma calculadora no PC hospedeiro em 20 de 20 tentativas.
Fonte ↗