Framework MarkSec expõe fragilidade de marcas d'água de LLMs quando a qualidade do texto é exigida
O MarkSec unifica a avaliação de três famílias de ataque contra watermarking de texto gerado por LLM -- roubo, remoção e forjamento da marca -- sob um protocolo comum de calibração e uma métrica que mede sucesso do ataque e qualidade do texto ao mesmo tempo. O achado central é que ataques que parecem vencer olhando só a remoção do watermark muitas vezes perdem para uma reescrita genérica simples quando a qualidade do texto também é exigida.
Fonte ↗