O WaveMark é um método de watermarking para modelos de difusão que embute a marca d'água no ruído inicial da geração, distribuindo réplicas do bit da mensagem por posições espaciais, orientações e escalas no domínio wavelet, em vez de depender de um único ponto frágil de inserção. Testado contra 14 ataques de remoção, o método manteve mais de 88% de acurácia de bits mesmo sob os ataques mais fortes avaliados (MarkNull e MarkNull-A), superando as técnicas de referência.
O framework Thrive embute identificadores multi-bit em fala gerada por sistemas de texto-para-fala autoregressivos, permitindo rastrear a origem e atribuir a autoria da fala sintetica mesmo depois que ela passa por transformacoes de edicao ou reconstrucao projetadas para remover o sinal. O sistema mantem 87,6% de acerto medio na recuperacao da marca de agua sob ataque e suporta atribuicao entre ate 10 mil identidades distintas, sem degradar a qualidade do audio gerado.
Modelos de difusão texto-para-imagem permitem ataques de “mimicry” com poucos dados: um adversário faz fine-tuning do modelo em um punhado de fotos públicas de uma pessoa para gerar falsificações convincentes dela. O FeatMark propõe substituir watermarks tradicionais de pixel, facilmente removíveis por pós-processamento leve, por micro-edições semânticas naturais à cena, e se manteve robusto contra os dez ataques de remoção testados, incluindo purificação por regeneração.
Reportagem do The Hacker News descreve a virada do phishing para uma fase orientada por agentes autônomos de IA generativa, que automatizam reconhecimento de alvos, redigem iscas personalizadas e produzem deepfakes de voz e vídeo em múltiplos canais simultâneos. O caso citado da engenharia Arup, em que um deepfake em videochamada convenceu um funcionário a autorizar US$ 25 milhões em transferências fraudulentas, ilustra o novo patamar de sofisticação do golpe. A tese central do texto é que SOCs que ainda dependem de triagem manual não conseguem acompanhar esse volume, e que a resposta viável é colocar agentes de IA também do lado da defesa.
Uma revisão sistemática consolida cinco linhas de pesquisa que, de forma independente, inverteram o uso de perturbações adversariais: em vez de atacar modelos de IA, dados, criadores e plataformas as usam para proteger conteúdo visual contra reconhecimento indevido, treinamento não autorizado, edição maliciosa e automação de agentes. Os autores concluem que a maioria dessas proteções ainda é validada só contra adversários estáticos ou fracamente adaptativos, com pouca evidência fora de benchmarks controlados.