DDQN-MLP combina aprendizado por reforço e MLP leve para detectar ransomware com 99,3% de acurácia e resistência adversarial

A dificuldade central em detecção comportamental de ransomware é que variantes modernas exibem comportamentos diversos, evasivos e por vezes similares a software benigno (por exemplo, criptografia legítima de backup versus criptografia maliciosa de arquivos), o que degrada objetivos de treinamento supervisionado fixo baseados em conjuntos de features estáticas. O DDQN-MLP ataca esse problema não mudando a arquitetura de classificação em si, mas mudando como as amostras de treinamento são ponderadas: um agente de aprendizado por reforço profundo (Double DQN) observa, a cada lote de treinamento, a dinâmica de perda e a confiança da predição, e usa essas observações para decidir quanto peso de importância cada amostra deve receber no próximo passo de otimização.

Esse desenho é interessante porque separa a fase cara e complexa (o controlador de ponderação, que precisa de um ambiente de RL, função de recompensa e treinamento iterativo) da fase de produção: depois de treinado, o DDQN é descartado por completo, deixando apenas o MLP leve para inferência. Isso significa que o custo computacional adicional do RL fica confinado ao momento de treinamento, sem impactar a latência de detecção em produção — uma escolha de engenharia sensata para um caso de uso onde a detecção precisa ser rápida, idealmente antes que a criptografia maliciosa complete um número significativo de arquivos.

Os números reportados (99,30% de acurácia, F1 de 0,9930, ROC-AUC de 0,9991) usando validação cruzada estratificada de 5 dobras em 2.000 perfis (1.000 ransomware de 30 famílias, 1.000 benignos) coletados via telemetria de sandbox no Windows 11 são consistentes com o que se espera de classificadores bem ajustados em datasets balanceados de tamanho moderado, superando baselines de ponderação estática, focal loss e outras variantes de RL. O ponto mais relevante para avaliação de segurança, porém, é o teste de robustez adversarial white-box em múltiplos níveis de perturbação: o treinamento adversarial aplicado melhorou a robustez no espaço de features sem sacrificar a acurácia em dados limpos, e a explicabilidade via SHAP/LIME foi usada para verificar que as features mais influentes continuam alinhadas com sinais comportamentais conhecidos de ransomware, não artefatos espúrios do dataset.

Como acontece com boa parte da literatura de detecção baseada em ML, a ressalva prática é o tamanho relativamente pequeno do dataset (2 mil amostras) frente à diversidade real de famílias de ransomware em circulação, e o fato de que testes adversariais white-box (onde o atacante conhece a arquitetura do modelo) tendem a ser mais favoráveis ao defensor do que cenários de caixa-preta realistas contra um atacante que não tem acesso ao modelo treinado. Ainda assim, o padrão de treinar com RL e implantar apenas um modelo leve em produção é uma técnica de engenharia reaproveitável para outras tarefas de detecção com dados desbalanceados e ruidosos.