Pesquisadores da UC Santa Cruz quebram seis LLMs de peso aberto injetando ruído aleatório nos embeddings do prompt
O ataque PEV (Perturbed Embedding Vector), criado por pesquisadores da UC Santa Cruz, consegue fazer seis modelos de linguagem de peso aberto gerarem respostas nocivas apenas adicionando ruído Gaussiano aleatório à representação vetorial do prompt, sem otimização por gradiente, sem alterar pesos do modelo e sem engenharia de prompt tradicional. A técnica produz o primeiro jailbreak bem-sucedido em menos de um minuto por prompt em todos os modelos testados no JailbreakBench, com custo computacional até uma ordem de magnitude menor do que métodos anteriores.
Fonte ↗