Falha de tokenização deixa 255 dos 400 modelos de chat mais baixados no Hugging Face vulneráveis a injeção via marcador forjado
Pesquisadores mostram que forjar marcadores de template de chat (como delimitadores de início de turno) é muito mais eficaz quando o texto malicioso chega ao modelo como um único token reservado de controle, em vez de como sequência de subtokens comuns — mesmo que as duas formas decodifiquem exatamente para o mesmo texto visível. Como a tokenização roda no servidor, é o defensor, não o atacante, quem decide qual representação o modelo recebe, e a mitigação padrão deixa 255 dos 400 modelos de chat mais baixados no Hugging Face expostos pelo canal de tokens de protocolo de ferramenta.
Fonte ↗