tema

#model-inversion

2 publicações marcadas com esta tag.

panoramaOS-2026-572 · 2026-10-02

Estudo mostra que quantizacao de modelos pode piorar ou melhorar resistencia a ataques de inversao, dependendo do bit

O artigo investiga como a quantizacao pos-treino -- reduzir a precisao numerica de pesos e ativacoes -- altera a eficacia de ataques de inversao de modelo, que reconstroem dados sensiveis de treino ou de inferencia a partir das saidas do modelo. Usando um limite teorico sobre a mudanca de informacao mutua induzida pela quantizacao e um metodo de quantizacao sensivel a privacidade que aloca bits por importancia da tarefa, os autores encontram sensibilidade pronunciada em 4 bits e mostram, em reconhecimento facial, de palma da mao e de iris, que e possivel reduzir significativamente o sucesso de ataques de inversao com perda controlada de acuracia.

#artigo-cientifico #model-inversion #privacidade #quantizacao #biometria

Fonte ↗

risco altoOS-2026-119 · 2026-07-31

GradLock: ataque de cadeia de suprimentos injeta dados sensíveis diretamente nos pesos de um modelo de IA

O GradLock é um ataque de injeção em tempo de treinamento que embute dados sensíveis do conjunto de treino diretamente nos parâmetros de um modelo, a partir de um componente de código aberto comprometido na cadeia de suprimentos de IA. A técnica usa indexação determinística sem estado para criar "cofres" de dados isolados dentro do modelo e um mecanismo de trava de gradiente que impede o payload de se degradar durante o treinamento, permitindo recuperação quase perfeita (SSIM próximo de 1,0) em menos de um segundo, mesmo depois de quantização, poda ou fine-tuning. Em um estudo com usuários, 93,3% dos participantes não perceberam a lógica maliciosa embutida no código.

#artigo-cientifico #supply-chain #vazamento-de-dados #model-inversion #codigo-aberto

Fonte ↗