Estudo estabelece limite estatístico para detectar a origem de uma imagem via pixels sob ataque adversarial
Pesquisadores derivam o limite teórico exato de quão bem qualquer verificador baseado apenas em pixels pode distinguir se uma imagem é real ou gerada por IA quando um adversário pode editá-la antes da verificação, e mostram que verificadores públicos de CLIP falham bem antes de atingir esse limite. O trabalho também demonstra um ataque surrogate de caixa preta que explora a possibilidade de emular o verificador alvo para escalar rapidamente a taxa de aceitação de imagens falsas.
Fonte ↗