Relatórios de inteligência de ameaças citados no artigo mostram que a IA generativa não cria técnicas de invasão inéditas, mas reduz drasticamente o custo de repetir etapas que antes exigiam horas de pesquisa manual, como corrigir um script de escalonamento de privilégios depois de uma tentativa falha. O texto argumenta que o verdadeiro gargalo das equipes de defesa não é tecnológico, e sim a perda de contexto entre as etapas do fluxo de um SOC, o que faz analistas reconstruírem do zero informações já apuradas em handoffs anteriores.
O Google Threat Intelligence Group (GTIG) documentou um grupo financeiramente motivado que usou um framework multi-agente autonomo -- combinando um chatbot de codigo com IA, um prompt orientador e um conjunto de instrucoes tipo playbook -- para planejar, construir e executar sozinho uma campanha de coleta de credenciais em terceiros. Em menos de seis horas, o sistema varreu alvos, rotacionou IPs para evitar bloqueio e comprometeu milhares de credenciais sem intervencao humana continua. O relatorio tambem cita outros grupos, incluindo atores ligados a China, usando LLMs para gerar exploits e phishing, e uma tentativa de extrair/destilar capacidades de modelos proprietarios do Google.
Pesquisadores decompõem o espaço de estratégias de jailbreak multimodal em componentes atômicos estruturais, semânticos e sintáticos, cobrindo texto e imagem, e propõem o HACA (Hierarchical Atomic Combination Attack), um método que combina automaticamente essas estratégias por meio de um planejador cross-modal. O sistema atingiu taxa média de sucesso de 95,48% contra cinco MLLMs (modelos de linguagem multimodais) amplamente usados, superando abordagens artesanais anteriores.