Pesquisadores propõem o Phantom State Attack (PSA), uma técnica de evasão contra sistemas de detecção de intrusão (IDS) baseados em machine learning para ambientes industriais (IIoT) que não modifica pacotes, não consulta o classificador e não precisa aprender um modelo do tráfego legítimo — ela apenas desloca minimamente o tempo de chegada dos pacotes para atravessar fronteiras de janelas de agregação. O ataque degrada a detecção em fluxos com volume suficiente de pacotes, mas seu efeito é condicional, deixando outros fluxos quase intactos.
Fonte ↗O estudo apresenta o SecJev, uma família de modelos de decisão especializados em segurança, de 0,8B a 9B de parâmetros, construída sobre a arquitetura de modelos "System One", que retornam previsões tipadas com probabilidades em vez de texto livre. Os autores mostram que a especialização em segurança supera modelos generalistas muito maiores: a versão de 0,8B parâmetros superou um modelo genérico de 9B em 20,51 pontos percentuais de acurácia média entre tarefas. O pacote cobre 14 tarefas de segurança, incluindo detecção de prompt injection, tráfego de rede e autenticação, com código liberado publicamente.
Fonte ↗Um estudo forense avalia se sistemas de detecção de intrusão baseados em aprendizado de máquina para IoT realmente aprendem comportamento de ataque generalizável ou apenas exploram atalhos espúrios do dataset, como IPs/MACs estáticos de bancada de teste e artefatos cronológicos de captura. Usando divisões que respeitam a separação por sessão PCAP, o recall de um ataque de DNS beaconing despenca de 27,78% para 0,00% quando features contextuais são removidas, e uma divisão aleatória tradicional (não disjunta por sessão) infla o recall em até 14 pontos percentuais frente à divisão correta.
Fonte ↗O trabalho reproduz de ponta a ponta uma construção teórica de Goldwasser et al. que planta backdoors em modelos treinados com Random Fourier Features de forma indetectável mesmo por auditoria completa dos pesos, mostrando que ela é realizável com ferramentas comuns de computação científica, sem infraestrutura criptográfica especializada. Testes de indistinguibilidade não encontraram diferença estatística entre modelos limpos e comprometidos.
Fonte ↗O estudo avalia oito ataques adversariais de evasao contra quinze modelos de deteccao de intrusao de rede (NIDS) baseados em machine learning, usando o dataset NF-UQ-NIDS com vinte categorias de ataques em trafego tradicional e IoT. Os autores propoem o AR-NIDS, um framework de dois estagios -- um ensemble treinado adversarialmente que distingue trafego normal, de ataque e adversarial, seguido por um classificador que identifica o tipo de ataque -- que reduziu a taxa media de sucesso dos ataques evasivos de 0,41 para 0,03, alcancando 0,98 no indice de robustez proposto pelos proprios autores.
Fonte ↗O artigo argumenta que a acuracia quase perfeita costumeiramente reportada por sistemas de deteccao de intrusao (NIDS) baseados em machine learning e uma 'ilusao de eficacia do modelo' que nao se sustenta contra ataques nao vistos no treino. Experimentos variando um parametro de dimensionalidade em duas metodologias distintas mostram que os classificadores detectam apenas uma fracao dos tipos de ataque genuinamente ineditos, e os autores propoem sete criterios de avaliacao para corrigir como a area mede esses sistemas.
Fonte ↗Pesquisadores descrevem uma classe inédita de ataque contra sistemas de aprendizado contínuo (continual learning), em que dados manipulados não apenas apagam conhecimento prévio do modelo — como já fazia o esquecimento catastrófico induzido — mas também bloqueiam sua capacidade de aprender iterações futuras. O estudo formaliza seis estratégias de ataque e testa contra três algoritmos de defesa (DER, ER-ACE, iCaRL) em mais de 4.480 simulações, encontrando vulnerabilidade consistente em todos eles.
Fonte ↗