Pincer propõe um "gêmeo digital" para aprender e aplicar permissões de agentes de IA automaticamente
Pesquisadores propõem o Pincer, uma defesa que atua na camada de autorização de recursos para agentes de codificação autônomos, usando um modelo isolado — um "gêmeo digital" do usuário — que aprende continuamente políticas dinâmicas de privilégio mínimo específicas para cada usuário. A proposta busca resolver o desgaste de permissões e a falta de personalização dos classificadores de chamada de ferramenta usados hoje por agentes como Claude e Codex.
O artigo parte de uma observação sobre como agentes de codificação de IA evoluíram: ganharam horizontes de execução mais longos, autonomia maior, acesso a shell de uso geral e memória persistente para autoaprimoramento — tudo isso os torna mais poderosos, mas também mais difíceis de defender contra adversários externos que tentam abusar dessas capacidades. Defesas que restringem essa arquitetura, como ferramentas tipadas ou controle de fluxo de informação, sacrificam funcionalidade a um ponto que dificulta adoção real. Na prática, agentes hoje usam uma combinação de sandboxing mediado pelo usuário, que decai com o tempo porque políticas mantidas manualmente ficam obsoletas e geram fadiga de permissão, e modo automático, cujos classificadores de chamada de ferramenta não aprendem preferências específicas do usuário nem foram desenhados para resistir a cenários adversariais.
O Pincer ataca o problema em uma camada diferente: em vez de classificar cada chamada de ferramenta isoladamente, ele opera na camada de autorização de recursos, atuando em conjunto com as defesas já existentes. O núcleo da proposta é um "gêmeo digital" — um modelo de contexto isolado que observa as interações entre usuário e agente e aprende, de forma contínua, uma política dinâmica de privilégio mínimo específica daquele usuário, passando a atuar como um proxy do usuário real para decidir pedidos de permissão do agente.
Para avaliar a fase de aprendizado desse gêmeo digital, os autores construíram um dataset centrado no usuário, com exemplos seguindo transcrições de múltiplos dias de interação real entre usuário e agente. A avaliação compara o Pincer com baselines que incluem variantes de juízes baseados em LLM e adaptações de outro sistema de controle de acesso recente, reportando desempenho superior tanto em segurança quanto em utilidade, com destaque para tipos de ataque em que o desenho do Pincer gera ganho significativo frente às alternativas testadas.
A relevância prática para quem constrói ou opera agentes autônomos de codificação é direta: hoje a escolha é essencialmente binária entre incomodar o usuário com aprovações repetidas, que ele aprende a clicar sem pensar, ou confiar em um classificador genérico sem contexto do usuário. Uma camada de autorização que aprende e se adapta à rotina de cada usuário é um caminho promissor para reduzir tanto a superfície de ataque quanto o atrito, mas a proposta ainda depende de um modelo aprendido corretamente calibrado, o que por si introduz uma nova superfície a ser avaliada.