SysEvolve: um cyber range onde agentes de IA atacam e se defendem sozinhos, em coevolução
O SysEvolve integra três componentes — um cyber range realista orquestrando centenas de CVEs, um gerador de ataques autônomo e um motor de defesa interpretável em tempo real — para fazer agentes de IA ofensivos e defensivos evoluírem um contra o outro sem intervenção humana constante. Os autores reportam validação em produção nos SOCs da Huawei e da Sangfor, além de três limitações importantes descobertas sobre agentes LLM em cenários multi-etapa.
A motivação do SysEvolve é uma assimetria que qualquer time de segurança sente na pele: ataque está caminhando para execução autônoma via agentes de IA, enquanto defesa continua fortemente dependente de analistas humanos. Os autores argumentam que tentativas anteriores de usar IA tanto para ataque quanto para defesa estagnaram porque tratam os dois lados de forma isolada — e propõem coevolução, com agentes ofensivos e defensivos treinando um contra o outro continuamente, como a ideia por trás de GANs aplicada a segurança operacional.
O sistema tem três peças. SysField constrói ambientes multi-host realistas, orquestrando 257 CVEs conhecidas em 1.148 'ranges' (cenários de rede simulados) com apenas 2,1% de overhead e sem perda de dados de telemetria. SysSpear é o agente ofensivo, gerando esquemas de ataque contra esses ranges com taxa de sucesso 25% superior a LLMs usados como baseline sem essa especialização. SysArmor é o agente defensivo, que os autores dizem operar com precisão de 10 a 1000 vezes maior que sistemas anteriores e — o dado mais forte do paper — já detecta ataques APT reais em produção nos centros de operação de segurança da Huawei e da Sangfor.
Além dos números de desempenho, o trabalho documenta três limitações de agentes LLM em cenários ofensivos multi-etapa que valem a pena reter independente da arquitetura específica do SysEvolve: avaliações de passo único escondem lacunas de capacidade que só aparecem quando a cadeia de ataque cresce; o gargalo real não está em obter acesso inicial, mas em usar esse acesso para se mover lateralmente e completar objetivos; e agentes são surpreendentemente sensíveis a interferência ambiental — endpoints-isca (honeypots, na prática) triplicam os timeouts do agente e fazem etapas subsequentes do ataque simplesmente não acontecerem, mesmo quando o acesso inicial continua funcionando normalmente.
O ponto prático mais interessante para defensores é justamente esse último achado: ele sugere que técnicas de decepção continuam sendo uma contramedida efetiva mesmo contra agentes ofensivos avançados, não apenas contra atacantes humanos. Já para quem avalia produtos de 'AI SOC', a validação em produção em dois fornecedores de segurança de peso é um sinal de que esse tipo de automação está deixando de ser só pesquisa acadêmica.