tema

#robustez-adversarial

3 publicações marcadas com esta tag.

risco médioOS-2026-277 · 2026-08-24

Estudo com mais de 120 LLMs revela que segurança, privacidade e alinhamento competem entre si

O aiXamine é uma plataforma de avaliação black-box que testa simultaneamente segurança, privacidade e alinhamento de segurança em LLMs, rodando 46 testes automatizados de red-teaming por modelo. Em mais de 5.000 execuções contra 120+ modelos, os autores encontraram uma 'taxa de segurança' (mais alinhamento gera mais recusas indevidas), privacidade quase independente das demais dimensões, e um colapso catastrófico de robustez em modelos destilados sem correção on-policy.

#artigo-cientifico #llm-security #red-teaming #privacidade #robustez-adversarial #destilacao

Fonte ↗

panoramaOS-2026-288 · 2026-08-24

Subvoltar a GPU durante o treino aumenta robustez adversarial de CNNs e ainda economiza energia

Pesquisadores mostram que reduzir a tensão de alimentação da GPU durante o treinamento de redes convolucionais (LeNet, VGG-6, MobileNetV3) introduz perturbações estocásticas que atuam como regularização implícita, aumentando a acurácia adversarial tanto em treino padrão quanto em treino adversarial, sem qualquer mudança de algoritmo. Como potência dinâmica escala quadraticamente com a tensão, o ganho de robustez vem acompanhado de economia de energia relevante para borda.

#artigo-cientifico #robustez-adversarial #hardware #cnn #seguranca-defensiva

Fonte ↗

risco médioOS-2026-059 · 2026-07-22

Estudo mostra que detectores de phishing baseados em IA perdem mais de 34 pontos de acurácia sob ataque adversarial

Pesquisadores compararam um classificador clássico (TF-IDF com regressão logística) e um DistilBERT ajustado, ambos treinados em um corpus unificado de mais de 82 mil e-mails de phishing vindos de seis bases públicas. Os dois modelos superam 98% de acurácia em dados limpos, mas despencam para cerca de 64% quando expostos a phishing deliberadamente alterado para evadir detecção, uma queda de mais de 34 pontos percentuais em ambos, apesar das arquiteturas serem completamente diferentes.

#artigo-cientifico #adversarial-ml #phishing #deteccao-ia #robustez-adversarial

Fonte ↗