tema

#adversarial-ml

4 publicações marcadas com esta tag.

risco médioOS-2026-059 · 2026-07-22

Estudo mostra que detectores de phishing baseados em IA perdem mais de 34 pontos de acurácia sob ataque adversarial

Pesquisadores compararam um classificador clássico (TF-IDF com regressão logística) e um DistilBERT ajustado, ambos treinados em um corpus unificado de mais de 82 mil e-mails de phishing vindos de seis bases públicas. Os dois modelos superam 98% de acurácia em dados limpos, mas despencam para cerca de 64% quando expostos a phishing deliberadamente alterado para evadir detecção, uma queda de mais de 34 pontos percentuais em ambos, apesar das arquiteturas serem completamente diferentes.

#artigo-cientifico #adversarial-ml #phishing #deteccao-ia #robustez-adversarial

Fonte ↗

panoramaOS-2026-051 · 2026-07-21

GAN de fronteira de decisão melhora robustez adversarial de IDS baseado em TabTransformer

Pesquisadores combinaram uma Boundary-Seeking GAN (BGAN) com um TabTransformer para detecção de intrusão baseada em fluxo de rede, usando a GAN tanto para gerar amostras sintéticas de classes minoritárias quanto para gerar amostras adversariais de teste. No dataset CICIDS2017, os modelos sem esse reforço sofreram queda de 100% de desempenho sob ataque adversarial, enquanto os modelos aumentados com BGAN mantiveram desempenho estável.

#artigo-cientifico #adversarial-ml #ids #gan #robustez #tabtransformer #cicids2017

Fonte ↗

panoramaOS-2026-052 · 2026-07-21

Taxonomia SMART reclassifica ataques de evasão contra IA pelos sinais que o deployment realmente expõe

Um novo framework, batizado SMART (Signal-based Model Access Risk Taxonomy), propõe abandonar a divisão tradicional de ataques de evasão em white-box/gray-box/black-box e classificá-los pela riqueza real dos sinais que um sistema de IA implantado expõe — decisão final, score de confiança, representação intermediária ou parâmetros completos. Os autores argumentam que a categoria "black-box" tradicional mistura cenários de deployment com capacidades de ataque muito diferentes entre si, o que pode levar a decisões erradas de procurement e arquitetura de segurança.

#artigo-cientifico #adversarial-ml #evasao #taxonomia #mlsecops #model-access

Fonte ↗

panoramaOS-2026-053 · 2026-07-21

Defesa híbrida combina treinamento adversarial e ruído gaussiano para blindar IDS contra FGSM e Carlini & Wagner

Pesquisadores demonstram que um NIDS (sistema de detecção de intrusão de rede) que caía para 26% e 50% de acurácia sob os ataques adversariais FGSM e Carlini & Wagner, respectivamente, recupera 96,57% e 89,20% de acurácia após uma defesa híbrida que combina Adversarial Training com Gaussian Data Augmentation. O estudo varre múltiplos níveis de epsilon e ruído de confiança para validar a robustez da abordagem.

#artigo-cientifico #adversarial-ml #nids #fgsm #carlini-wagner #adversarial-training

Fonte ↗