tema

#proveniencia

3 publicações marcadas com esta tag.

panoramaOS-2026-606 · 2026-10-06

Thrive: marca de agua multi-bit para fala sintetica resiste a ataques de reconstrucao com 87,6% de acerto

O framework Thrive embute identificadores multi-bit em fala gerada por sistemas de texto-para-fala autoregressivos, permitindo rastrear a origem e atribuir a autoria da fala sintetica mesmo depois que ela passa por transformacoes de edicao ou reconstrucao projetadas para remover o sinal. O sistema mantem 87,6% de acerto medio na recuperacao da marca de agua sob ataque e suporta atribuicao entre ate 10 mil identidades distintas, sem degradar a qualidade do audio gerado.

#artigo-cientifico #watermarking #deepfake #sintese-de-fala #seguranca-defensiva #proveniencia

Fonte ↗

risco médioOS-2026-548 · 2026-09-29

BMA: ataque demonstra como envenenar memória persistente de agentes LLM sem escrever na memória nem alterar a tarefa

Pesquisadores apresentam o Backchain Memory Attack (BMA), que manipula evidências de baixa confiança consumidas por um agente LLM de forma que, quando consolidadas em memória persistente, acabam sendo recuperadas depois em uma tarefa completamente limpa e usadas para disparar uma ação protegida não autorizada. O ataque alcança 18,8% de taxa de sucesso certificada por caminho (contra 13,4% da melhor linha de base), e controles de proveniência vinculada reduzem esse número para 2% preservando 92,1% das ações legítimas.

#artigo-cientifico #agentes-ia #memoria-persistente #envenenamento #proveniencia #seguranca-defensiva

Fonte ↗

panoramaOS-2026-333 · 2026-09-01

Marca d'água embutida nos pesos de modelos Mixture-of-Experts rastreia texto gerado a partir de checkpoints roubados

Pesquisadores propõem o WoE, uma técnica de watermarking que embute o sinal de proveniência diretamente nos pesos de modelos Mixture-of-Experts esparsos, em vez de depender do wrapper de inferência controlado pelo dono do modelo. Isso permite atribuir texto gerado mesmo depois que os pesos são roubados ou vazados — algo que os métodos de watermark tradicionais, dependentes do sampler de inferência, não conseguem fazer — com taxa de detecção de até 94,9% e resistência a fine-tuning, extração de modelo e paráfrase.

#artigo-cientifico #watermarking #llm #roubo-de-modelo #mixture-of-experts #proveniencia

Fonte ↗