MATE: auditor condicionado por política em linguagem natural detecta violações de segurança em trajetórias de agentes móveis
Pesquisadores apresentam o MATE, um auditor leve para agentes móveis baseados em modelos de fundação que verifica, a partir da sequência de ações do agente e de uma política de segurança escrita em linguagem natural, se houve violação e por quê. Tratando a política como texto editável em vez de parâmetro fixo do modelo, o sistema evita retreinamento a cada nova regra e atingiu mais de 95% de acurácia ao auditar agentes de produção reais como o AutoGLM (Zhipu) e o Mobile-Agent (Alibaba).
Fonte ↗