tema

#cadeia-de-suprimentos-de-modelos

2 publicações marcadas com esta tag.

risco médioOS-2026-542 · 2026-09-29

TokenScanner varre todo o vocabulário do tokenizador para detectar backdoors em LoRAs de texto-para-imagem

Pesquisadores propõem o TokenScanner, um método para detectar LoRAs (adaptadores de baixa dimensão) maliciosos em modelos de difusão texto-para-imagem, que se comportam normalmente até um token-gatilho escondido no prompt ativar conteúdo definido pelo atacante. A técnica varre toda a vocabulário do tokenizador medindo a resposta específica de cada token dentro do LoRA e atinge 95,96% de AUC na detecção, além de identificar o próprio token-gatilho em até 99,4% dos casos entre os cinco candidatos mais prováveis.

#artigo-cientifico #backdoor #lora #difusao-de-imagem #cadeia-de-suprimentos-de-modelos #deteccao

Fonte ↗

risco altoOS-2026-546 · 2026-09-29

SilentCall: pesquisa mostra como um fornecedor de modelo pode esconder backdoor de exfiltração em agentes de código aberto

Pesquisadores demonstram o SilentCall, um ataque em que um publicador de modelo treina um agente de chamada de ferramentas que se comporta normalmente e passa em benchmarks de alinhamento, mas que, a partir de uma data-gatilho embutida, emite silenciosamente uma segunda chamada de ferramenta que exfiltra credenciais do usuário junto com a resposta legítima. O ataque dispara em pelo menos 99,6% das requisições sob o gatilho e nunca é mencionado na resposta visível ao usuário, mas os autores também mostram três métodos de detecção eficazes.

#artigo-cientifico #backdoor #agentes-ia #open-weight #exfiltracao #cadeia-de-suprimentos-de-modelos

Fonte ↗