FORGE Lab da Microsoft detalha licoes de escalar pesquisa de vulnerabilidades assistida por IA do Windows ao kernel Linux
O FORGE Lab da Microsoft, dedicado a pesquisa de seguranca ofensiva autonoma assistida por IA, descreveu tres licoes aprendidas ao escalar a descoberta automatizada de falhas: passar de achados isolados para validacao e correcao em volume, gastar o raciocinio do modelo onde realmente reduz incerteza em vez de apenas gerar mais analise, e tratar validacao e remediacao como um loop continuo com revisao humana. Entre maio e setembro de 2026 o time relata 140 vulnerabilidades encontradas no Windows e 155 relatorios validados submetidos a 23 projetos open-source, incluindo o kernel Linux.
O FORGE Lab se encaixa numa tendencia que ja aparece em iniciativas semelhantes de outras empresas (como o Project Glasswing da Anthropic, noticiado na mesma semana): usar modelos de IA como ferramenta de pesquisa ofensiva de seguranca, automatizando etapas que tradicionalmente exigiam analistas humanos lendo codigo-fonte ou fazendo fuzzing manualmente guiado. A diferenca de enfoque em relacao a pesquisas sobre seguranca dos proprios modelos de IA e importante: aqui a IA e a ferramenta de ataque/descoberta, e o alvo e software convencional -- Windows e projetos de codigo aberto, incluindo um componente tao critico e escrutinado quanto o kernel Linux.
As tres licoes articuladas pelo laboratorio revelam os gargalos reais de rodar esse tipo de pesquisa em produção, e nao apenas como demonstracao pontual. A primeira -- passar de uma descoberta isolada para escala -- reconhece que encontrar uma vulnerabilidade dificil uma vez e um feito diferente de sustentar um pipeline que produz e valida centenas delas de forma repetivel; muitas demonstracoes de 'IA encontra vulnerabilidade' na literatura param no primeiro caso. A segunda licao, sobre gastar capacidade de raciocinio do modelo de forma economica, aponta para um problema operacional concreto: chamadas de LLM tem custo computacional e financeiro, e gerar mais texto de analise nao necessariamente reduz incerteza sobre se um candidato a vulnerabilidade e real ou um falso positivo -- o que importa e direcionar esse raciocinio para os pontos onde a incerteza de fato existe.
A terceira licao -- validacao e remediacao como loop continuo -- e talvez a mais relevante para quem avalia a confiabilidade desses programas: achados brutos de um sistema de IA passam por verificacao automatizada, depois revisao humana, depois desenvolvimento e teste de patch, e os aprendizados desse ciclo realimentam o sistema de deteccao. Isso implica que o numero de 'vulnerabilidades encontradas' divulgado por qualquer programa desse tipo (FORGE Lab ou concorrentes) deve ser lido com cautela, ja que a fracao que de fato se traduz em relatorios validados e consertaveis costuma ser bem menor que o volume bruto gerado pelo modelo -- no caso do FORGE Lab, 155 relatorios validados em cinco meses, um numero bem mais modesto que os 129 mil mencionados pelo Project Glasswing da Anthropic no mesmo periodo, o que sugere metodologias e criterios de validacao bastante diferentes entre os dois programas.
Para a comunidade de seguranca, o valor pratico dessa publicacao esta menos no numero de CVEs gerados e mais na transparencia sobre os desafios de engenharia de transformar IA generativa em um pipeline confiavel de descoberta de vulnerabilidades em escala -- um processo que, segundo a propria Microsoft, ainda depende fortemente de revisao humana e de infraestrutura de triagem, nao apenas da capacidade do modelo de 'achar bugs'.