Detecção de intrusão baseada em LLM perde garantias estatísticas sob perturbação adversarial, mesmo com predição conforme
Pesquisadores mostram que a predição conforme, usada para dar garantias de cobertura estatística a LLMs de detecção de intrusão de rede, falha quando um atacante manipula features de tráfego controláveis. A calibração ciente do tráfego adversarial restaura a garantia contra atacantes que usam um mecanismo de perturbação conhecido, mas um atacante adaptativo que consulta o próprio modelo-alvo ainda consegue degradar essa proteção.
Fonte ↗