tema

#membership-inference

3 publicações marcadas com esta tag.

risco médioOS-2026-648 · 2026-10-09

Ataque de canal lateral de energia infere dados de treinamento de modelos de ML embarcados mesmo sem acesso as saidas

Ataques de inferencia de pertencimento normalmente dependem de observar probabilidades ou rotulos previstos por um modelo, o que leva muitos sistemas embarcados a suprimir essas saidas como mitigacao de privacidade. O PSCMIA mostra que isso nao basta: analisando apenas o tracado de consumo de energia durante a execucao do modelo em microcontroladores reais, o ataque ainda consegue inferir, com ate 0,907 de AUC-ROC, se uma amostra especifica fez parte do conjunto de treinamento.

#side-channel #membership-inference #embedded-ml #privacy #artigo-cientifico

Fonte ↗

risco médioOS-2026-353 · 2026-09-03

Ataque de inferencia de pertencimento em caixa-preta expoe vazamento severo de privacidade em modelos TTS ajustados

Pesquisadores apresentam o primeiro framework de ataque de inferencia de pertencimento (membership inference) especificamente desenhado para modelos de texto-para-fala (TTS) ajustados finamente sobre vozes privadas. Testado contra tres modelos comerciais de ponta (CosyVoice2, F5-TTS e XTTS-v2), o ataque atinge AUC acima de 0,80 -- chegando perto de 1,0 em cenarios favoraveis -- tanto para identificar se um falante especifico esteve nos dados de treinamento quanto se um trecho de fala especifico foi usado.

#artigo-cientifico #privacidade #membership-inference #tts #biometria #ia-como-alvo

Fonte ↗

risco médioOS-2026-319 · 2026-08-31

FISGuard reduz a quase zero a eficácia de ataque de inferência de membership em LLMs com fine-tuning federado

O ataque ProjRes (publicado no S&P 2026) consegue distinguir se um dado específico participou do treinamento de um LLM em aprendizado federado apenas observando o resíduo de projeção entre a representação candidata e o subespaço formado pelos gradientes visíveis ao servidor — sem acessar as saídas do modelo. O FISGuard neutraliza esse ataque fixando um subespaço de representação de baixa dimensão construído a partir de dados públicos, derrubando a AUC do ProjRes para próximo de 0,5 (equivalente a chute aleatório) com pouca perda de desempenho.

#artigo-cientifico #membership-inference #llm #aprendizado-federado #privacidade

Fonte ↗