tema

#proveniencia-de-conteudo

5 publicações marcadas com esta tag.

panoramaOS-2026-662 · 2026-10-12

WaveMark melhora resistência de watermarks em imagens geradas por IA contra ataques de remoção

O WaveMark é um método de watermarking para modelos de difusão que embute a marca d'água no ruído inicial da geração, distribuindo réplicas do bit da mensagem por posições espaciais, orientações e escalas no domínio wavelet, em vez de depender de um único ponto frágil de inserção. Testado contra 14 ataques de remoção, o método manteve mais de 88% de acurácia de bits mesmo sob os ataques mais fortes avaliados (MarkNull e MarkNull-A), superando as técnicas de referência.

#artigo-cientifico #watermarking #modelos-de-difusao #proveniencia-de-conteudo #deepfake

Fonte ↗

risco médioOS-2026-587 · 2026-10-05

RMCW: marca d'água resistente a deleção para modelos de linguagem usando códigos de Reed-Muller

Pesquisadores propõem o RMCW, um método de watermarking para textos gerados por LLMs que resiste a ataques de deleção de tokens, um dos pontos mais frágeis das técnicas atuais. A técnica usa estrutura algébrica de códigos Reed-Muller para manter a detectabilidade mesmo quando trechos do texto são removidos ou reescritos. Testes em OPT-1.3B e Llama-3.1-8B-Instruct mostram desempenho igual ou superior a baselines existentes sob ataques de deleção e reescrita.

#llm #watermarking #proveniencia-de-conteudo #codigos-corretores-de-erro #artigo-cientifico

Fonte ↗

risco médioOS-2026-439 · 2026-09-16

Framework MarkSec expõe fragilidade de marcas d'água de LLMs quando a qualidade do texto é exigida

O MarkSec unifica a avaliação de três famílias de ataque contra watermarking de texto gerado por LLM -- roubo, remoção e forjamento da marca -- sob um protocolo comum de calibração e uma métrica que mede sucesso do ataque e qualidade do texto ao mesmo tempo. O achado central é que ataques que parecem vencer olhando só a remoção do watermark muitas vezes perdem para uma reescrita genérica simples quando a qualidade do texto também é exigida.

#artigo-cientifico #watermarking #llm #ataques-adversarios #proveniencia-de-conteudo

Fonte ↗

risco altoOS-2026-414 · 2026-09-14

Ataque de forjamento quebra marca d'água Tree-Ring de imagens geradas por difusão mesmo sem acesso à chave secreta

Pesquisadores reproduziram, em hardware modesto, o ataque de forjamento "Reprompt" contra a marca d'água semântica Tree-Ring usada em modelos de difusão como o Stable Diffusion XL, conseguindo fazer o detector legítimo aceitar como autênticas imagens que o atacante nunca assinou com a chave secreta do sistema. O resultado reforça que watermarking, cotado como mecanismo de prova de proveniência de conteúdo gerado por IA, pode ser forjado, e não apenas removido, por quem nunca teve acesso ao segredo do esquema.

#watermarking #modelos-de-difusao #deepfakes #proveniencia-de-conteudo #artigo-cientifico

Fonte ↗

panoramaOS-2026-206 · 2026-08-11

HaloMark propõe marca d'água criptográfica para embeddings de IA compatível com o padrão de proveniência C2PA

Embeddings de modelos de fundação são hoje um ativo de dados valioso, mas a infraestrutura de proveniência de conteúdo criada para imagens e áudio (C2PA) não funciona para eles, já que quantização, projeção e fine-tuning alteram os vetores de forma rotineira e quebram qualquer hash fixo. O HaloMark resolve isso assinando um "commitment" derivado do vetor diretamente no manifesto C2PA, mantendo AUROC de detecção acima de 0,98 mesmo sob tentativas adaptativas de remoção da marca.

#artigo-cientifico #watermarking #proveniencia-de-conteudo #embeddings #c2pa

Fonte ↗