Geradores de imagem comerciais produzem desinformacao visual convincente em ate 95% dos casos sob ataque
Modelos comerciais de geracao de imagem conseguem reconhecer que uma afirmacao e falsa quando perguntados diretamente, mas mesmo assim renderizam essa mesma afirmacao como uma imagem de evidencia visualmente convincente, como uma foto de noticia ou uma pagina de livro didatico. Um novo benchmark e um ataque de otimizacao black-box mostram que mais de 70% dos prompts com alegacoes falsas ja geram imagens fieis a desinformacao em modelos comerciais, taxa que sobe para 95% com o ataque proposto.
Fonte ↗