Package Hallucination Attack usa prompt injection em arquivos de regras (AGENTS.md) para fazer agentes de codigo instalarem pacotes maliciosos
Pesquisadores demonstraram um novo vetor de ataque contra agentes de codificacao autonoma: injetar prompts maliciosos dentro de arquivos de regras compartilhados pela comunidade, como AGENTS.md ou .cursorrules, para induzir o agente a substituir dependencias legitimas por pacotes controlados pelo atacante. O framework PackHallu, que reescreve iterativamente esses prompts injetados usando feedback do comportamento real do agente e mutacoes guiadas por LLM, alcancou altas taxas de sucesso e forte transferabilidade entre diferentes modelos e frameworks de agentes testados.
Fonte ↗