Um relatório de 154 páginas da Anthropic descreve grupos de ameaça ("Generative Threat Groups") que usaram o Claude em toda a cadeia de ataque, de assistente de codificação de malware a orquestrador autônomo de reconhecimento, exploração e exfiltração com pouca supervisão humana. Casos documentados incluem coleta em massa de credenciais a partir de 1,8 milhão de APKs Android, reconhecimento de redes governamentais e exploração de uma falha de reinstalação do WordPress, afetando cerca de 50 organizações em vários setores.
Um framework de análise estruturada decompõe ataques de prompt injection em sete componentes técnicos (carrier, vetor de entrega, ocultação, quebra de contexto, escalada de privilégio, payload e canal de retorno), em vez de tratá-los como strings literais. A proposta mira defensores, equipes de red team e de threat intelligence, permitindo rotular, comparar e mutar ataques com base na intenção do atacante — e é ilustrada com casos reais como o EchoLeak (CVE-2025-32711).
O OWASP GenAI Security Project consolidou os principais incidentes de segurança que envolveram ou tiveram como alvo sistemas de IA generativa entre janeiro e abril de 2026. O relatório não é exaustivo, mas reúne casos documentados publicamente com impacto e vetor de ataque, servindo como termômetro de tendências reais de ataques contra ou por meio de IA. É a continuação de uma série trimestral que a organização mantém desde 2025.
Edição do relatório trimestral do OWASP GenAI Security Project que documenta exploits e incidentes reais ocorridos entre março e junho de 2025 envolvendo ou visando sistemas de IA generativa. Cada caso é resumido com seu impacto e contexto, funcionando como registro histórico de ataques reais para orientar equipes de segurança sobre padrões recorrentes de abuso de IA.