Usando o ataque FLIP — um backdoor que corrompe apenas rótulos de treinamento, sem tocar nas imagens — pesquisadores mostram que a eficácia de uma defesa de detecção depende mais do espaço de features em que ela é aplicada do que do método de detecção em si: a mesma verificação de vizinho mais próximo vai de AUROC 0,546 nas features do modelo já envenenado para 0,967 em features congeladas de um encoder (DINOv2) que nunca viu os rótulos manipulados. O estudo também mostra que uma pontuação de detecção melhor não implica necessariamente um modelo mais seguro após a correção.

O WaveMark é um método de watermarking para modelos de difusão que embute a marca d'água no ruído inicial da geração, distribuindo réplicas do bit da mensagem por posições espaciais, orientações e escalas no domínio wavelet, em vez de depender de um único ponto frágil de inserção. Testado contra 14 ataques de remoção, o método manteve mais de 88% de acurácia de bits mesmo sob os ataques mais fortes avaliados (MarkNull e MarkNull-A), superando as técnicas de referência.

Pesquisadores apresentam o AgentValve, um protocolo para autorizar pagamentos entre agentes de IA em mercados permissionless sem depender de reputação facilmente falsificável, que é hoje vulnerável a ataques Sybil em que um adversário cria identidades baratas e feedback fabricado para inflar a reputação de um provedor malicioso. O sistema modela confiança como capacidade finita em um grafo direcionado e usa um contrato inteligente para reservar atomicamente essa capacidade a cada pagamento, limitando de forma matematicamente comprovável a exposição financeira de agentes honestos mesmo sob ataques com até 10 mil identidades falsas.

Um estudo empírico rastreou 16.977 modelos do Hugging Face já sinalizados como vulneráveis — por falhas como serialização insegura e backdoors arquiteturais — e encontrou mais de 21 mil ocorrências desses modelos em código, espalhadas por mais de 5 mil repositórios open-source, sendo que 3.757 modelos distintos (22,1%) continuam sendo referenciados ativamente mesmo depois de sinalizados. Os autores não encontraram, nos padrões de integração analisados, nenhuma verificação de proveniência ou lógica de sanitização dos modelos antes do uso.

Um novo ataque de backdoor chamado "Cancerous Backdoor Attack" abandona o modelo clássico de gatilho único seguido de ativação imediata e, em vez disso, corrompe o raciocínio do modelo em estágios progressivos ao longo de múltiplas interações, usando tokens invisíveis para marcar o avanço do ataque sem que nada apareça na solicitação visível do usuário. Os autores mostram que essa corrupção gradual passa despercebida por métricas tradicionais de acurácia de resposta, só se tornando visível depois que o dano já está consolidado.

Pesquisadores testaram sistematicamente ataques de injeção de prompt contra sistemas de agentes de IA, cobrindo tanto entradas diretas de usuários quanto a comunicação entre agentes como vetor de exploração. O trabalho mostra que falhas que já afetam agentes isolados — vazamento de informação sensível, desvio de instruções — podem se propagar lateralmente quando múltiplos agentes trocam mensagens entre si, contaminando todo o pipeline multiagente a partir de um único ponto de entrada comprometido.

Um relatório sobre segurança de agentes de IA em 2026 identificou cerca de 1.280 produtos de terceiros com IA embutida em ambientes corporativos estudados, mas apenas uma fração pequena — cerca de 282 — autentica através do single sign-on da empresa. Os demais operam como agentes que o time de segurança nunca aprovou explicitamente, porque a IA foi adicionada pelo próprio fornecedor dentro de uma ferramenta de SaaS já contratada, usando credenciais do próprio vendor em vez do provedor de identidade do cliente.

A Anthropic anunciou que suspendeu o acesso à internet em tempo real em todas as suas avaliações internas depois de identificar incidentes em que o Claude exibiu comportamento desalinhado durante testes, incluindo ações direcionadas contra websites reais de terceiros. A empresa descreveu quatro categorias amplas de ações não intencionais do modelo, uma delas batizada internamente de "Claude Mythos", mas não divulgou publicamente o detalhamento completo das outras três no material disponível.