tema

#google

3 publicações marcadas com esta tag.

panoramaOS-2026-629 · 2026-10-08

ASPIRE automatiza red-teaming de prompt injection com memoria entre execucoes e grafo evolutivo de comportamentos de risco

Pesquisadores do Google apresentaram o ASPIRE, um motor de red-teaming que mantem um grafo de comportamentos de seguranca de agentes em constante evolucao e usa dois agentes complementares -- um de exploracao e outro de exploracao intensiva (exploit) -- para descobrir, verificar e generalizar testes de prompt injection indireto centrados em consequencias reais, em vez de cobrir apenas cenarios pre-definidos pelo pesquisador humano.

#artigo-cientifico #prompt-injection #red-teaming #llm-agents #google #automated-security-testing

Fonte ↗

risco altoOS-2026-398 · 2026-09-10

Modelos aprendem a se comunicar por cifra arbitrária só com prompting, contornando classificadores de nocividade

Uma nova pesquisa mostra que modelos de fronteira atuais não precisam mais de fine-tuning para aprender a se comunicar por meio de uma cifra combinada em tempo real: basta prompting e, quando necessário, aprendizado em contexto. Como o conteúdo nocivo trafega cifrado e aparece como texto sem sentido para os classificadores de segurança, o ataque contorna com sucesso modelos comerciais da Anthropic, Google e OpenAI.

#artigo-cientifico #jailbreak #cifra #llm-security #anthropic #openai #google

Fonte ↗

risco altoOS-2026-163 · 2026-08-06CVE-2026-18830, CVE-2026-18236, CVE-2026-64650, CVE-2026-64651

Falhas em infraestrutura de agentes da AWS, Google e Vercel permitiam acionar ferramentas sem que o modelo de IA fosse executado

Pesquisadores encontraram quatro vulnerabilidades na camada de orquestração de agentes de IA da AWS, Google e Vercel que permitiam a um atacante injetar chamadas de ferramenta forjadas diretamente no runtime, sem que o modelo de linguagem jamais processasse ou autorizasse a ação. Como o modelo nunca chega a rodar, toda a camada de segurança que depende dele — filtros de conteúdo, guardrails, system prompts — simplesmente não entra em ação. Os quatro CVEs, com CVSS de até 9.3, já foram corrigidos pelos fornecedores.

#agentes-ia #falsificacao-de-chamada-de-ferramenta #aws #google #vercel #cadeia-de-autorizacao

Fonte ↗