CyberLLM combina agentes LLM com camada determinística para detectar e responder a vulnerabilidades automotivas sob guarda de segurança formal
CyberLLM é um framework multiagente para veículos definidos por software que combina uma camada determinística (regras, análise de AST, verificação de topologia) com refinamento via LLM para detectar vulnerabilidades em módulos ECU, seguido de um agente de decisão que só aciona remediação após validação contra propriedades de segurança formais e um oráculo de alinhamento independente. Em um benchmark com 47 vulnerabilidades semeadas em nove módulos ECU reais, a camada determinística sozinha cobriu 34% dos casos com precisão perfeita, e a adição do LLM quase dobrou a cobertura para cerca de 70%, sem falsos positivos nos controles limpos.
O trabalho, de Nenad Petrovic, Oussama Jeddou, Feres Ben Fraj, Vahid Zolfaghari, Fengjunjie Pan, Andre Schamschurko e Alois Knoll, aborda um problema específico de veículos definidos por software (SDVs): a superfície de ataque se espalha por código-fonte, logs de runtime e topologia de implantação, mas restrições de segurança funcional proíbem que agentes autônomos ajam sem supervisão em um domínio onde um erro de remediação pode ter consequências físicas.
A arquitetura combina três camadas: uma camada determinística (regras regex, analisadores de AST e verificações de grafo de topologia) que estabelece um piso confiável de cobertura; um agente de decisão com refinamento via LLM que agrega os achados, classifica com uma taxonomia centrada em ativos e escolhe uma resposta escalonada; e uma guarda de segurança formal, em que toda ação proposta é validada contra quatro propriedades de segurança contextuais e um oráculo independente de alinhamento de ação antes de poder ser executada — ações recusadas disparam escalonamento e replanejamento em vez de execução forçada. Um pipeline simétrico de ataque gera e reproduz exploits para que ataque e defesa sejam exercitados nos mesmos cenários.
Isso importa na prática porque é um exemplo concreto de arquitetura de 'IA como ferramenta defensiva' desenhada explicitamente com salvaguardas de supervisão humana, em vez de um agente livre remediando código de forma autônoma e irrestrita — a camada determinística sozinha entrega 34% de cobertura com precisão perfeita, e o LLM é usado para elevar a cobertura para cerca de 70% sem introduzir falsos positivos nos controles limpos, mantendo toda ação sob validação formal antes da execução.
A ressalva importante é que mesmo com o refinamento por LLM, cerca de 30% das vulnerabilidades semeadas ainda passam despercebidas, e o benchmark é controlado — 47 vulnerabilidades sintéticas em apenas nove módulos ECU escritos para o experimento, não uma base de código automotiva real em produção com adversários reais. O valor mais transferível do trabalho está menos no número de cobertura específico e mais no padrão arquitetural (piso determinístico + camada LLM sob guarda formal + escalonamento humano) como modelo replicável para outros domínios de segurança crítica.