#clip — OlimpoSec

risco médioOS-2026-529 · 2026-09-28

Estudo estabelece limite estatístico para detectar a origem de uma imagem via pixels sob ataque adversarial

Pesquisadores derivam o limite teórico exato de quão bem qualquer verificador baseado apenas em pixels pode distinguir se uma imagem é real ou gerada por IA quando um adversário pode editá-la antes da verificação, e mostram que verificadores públicos de CLIP falham bem antes de atingir esse limite. O trabalho também demonstra um ataque surrogate de caixa preta que explora a possibilidade de emular o verificador alvo para escalar rapidamente a taxa de aceitação de imagens falsas.

#artigo-cientifico #deepfake-detection #adversarial-attack #provenance #clip #content-authenticity

Fonte ↗

panoramaOS-2026-155 · 2026-08-06

CASCADE usa predição conforme para detectar pares imagem-texto envenenados em modelos como o CLIP

Pesquisadores mostram que defesas de detecção de backdoor em aprendizado contrastivo multimodal, baseadas na métrica CLIPScore, falham porque a distribuição de scores de pares benignos e envenenados se sobrepõe significativamente. O framework proposto, CASCADE, usa predição conforme em duas etapas para gerar limites de confiança estatisticamente garantidos, alcançando falso-positivo médio de 5,79% com 100% de detecção verdadeira no dataset CC3M.

#artigo-cientifico #backdoor #envenenamento-de-dados #aprendizado-contrastivo #clip

Fonte ↗