Agentes de LLM geram arvores de ataque automaticamente a partir de requisitos de projeto
Pesquisadores propõem um framework multi-agente baseado em LLM que analisa documentos de requisitos e diagramas de arquitetura para gerar casos de mau uso, arvores de ataque, verificacoes de governanca e recomendacoes de mitigacao antes que o codigo seja escrito. A proposta ataca o problema classico de revisao de seguranca tardia, trazendo analise de ameacas para a fase de design, com um loop de validacao que filtra achados sem fundamento na propria arquitetura analisada.
A motivacao do trabalho e um problema conhecido em engenharia de seguranca: falhas de design -- suposicoes de confianca equivocadas, controles ausentes, fluxos de dados mal modelados -- normalmente só sao descobertas depois que o sistema ja foi implementado, quando corrigi-las custa muito mais caro. Os autores propõem um pipeline multi-agente de LLMs que recebe como entrada documentos de requisitos de produto e diagramas de arquitetura, converte esses diagramas em representacoes de grafo, e a partir dai deriva casos de mau uso e de falha, monta arvores de ataque, verifica lacunas de governanca e compliance, e sugere uma arquitetura revisada para revisao humana.
O aspecto tecnico mais relevante e a decisao deliberada de nao consultar bases como a CWE (Common Weakness Enumeration) durante a inferencia: em vez de recuperar vulnerabilidades conhecidas de um catalogo, o sistema raciocina diretamente sobre comportamento do sistema, fronteiras de confianca, interacoes entre componentes e suposicoes sobre fluxo de dados. Os casos de mau uso funcionam como uma representacao intermediaria que amarra cada achado a componentes especificos do sistema e a caminhos de ataque concretos, e um loop de validacao e refinamento filtra conclusões que nao tem apoio real na arquitetura descrita, reduzindo ruido e alucinacao -- um problema recorrente quando se usa LLMs para analise de seguranca.
Os autores avaliaram o framework contra um exemplo de modelagem de ameacas de referencia da Microsoft, pares sinteticos de requisito-arquitetura, e dois sistemas abertos (Berty e Gas Town), medindo nao so se as ameacas certas foram recuperadas, mas tambem ruido, rastreabilidade, acionabilidade e qualidade das arvores de ataque geradas -- metricas que importam porque um relatorio de seguranca cheio de falsos positivos e tao inutil quanto um que nao encontra nada.
Na pratica, esse tipo de ferramenta interessa a times de seguranca de aplicacao que hoje dependem de threat modeling manual, caro e dependente de poucos especialistas seniores: se a abordagem se mostrar confiavel em producao, ela pode democratizar uma primeira passada de analise de ameacas logo na fase de requisitos, deixando a revisao humana para validar e priorizar, em vez de gerar a arvore de ataque do zero.