tema

#inferencia-privada

3 publicações marcadas com esta tag.

risco médioOS-2026-550 · 2026-09-29

Pesquisa mede quanto um LLM consegue inferir sobre pessoas e empresas a partir de pegadas públicas, e propõe defesa sem IA

O estudo mostra que qualquer entidade com presença pública online vaza fatos que nunca declarou explicitamente, porque modelos de linguagem tornam barata a inferência a partir de informação dispersa. Os autores separam “acurácia de leitura” de “taxa de vazamento real”, constroem um analisador local de 106M de parâmetros que nunca gera texto e certifica cada resposta, e mostram que uma defesa que reescreve fatos de forma mais genérica esconde vazamentos a 40% menos custo de edição do que simplesmente deletar informação.

#artigo-cientifico #inferencia-privada #osint #llm #privacidade #defesa

Fonte ↗

panoramaOS-2026-477 · 2026-09-21

HE-Guardrail tenta resolver o dilema de moderar prompts sem nunca vê-los, usando criptografia homomórfica

Serviços de inferência de LLM baseados em criptografia homomórfica (HE) prometem que o servidor nunca vê o prompt nem a resposta em texto claro, o que é ótimo para privacidade, mas também significa que ninguém pode inspecionar um jailbreak antes de ele ser processado. O paper propõe HE-Guardrail, um jeito de rodar guardrails de segurança inteiros dentro do domínio cifrado, testado com Llama Guard, JBShield e GradSafe.

#jailbreak #criptografia-homomorfica #guardrails #inferencia-privada #llm #artigo-cientifico

Fonte ↗

risco altoOS-2026-415 · 2026-09-14

Ataque com d+1 consultas quebra confidencialidade de modelos em esquemas de inferência privada híbrida com FHE

Pesquisadores quebram por completo a proteção baseada em permutação e ruído usada em esquemas recentes de inferência híbrida com criptografia homomórfica (FHE), mostrando que bastam d+1 consultas para recuperar exatamente cada camada linear de um modelo, incluindo ResNet-20, CNNs em escala ImageNet e ViT-B/16. O resultado mostra que privacidade diferencial aplicada à entrada do cliente não protege a confidencialidade do modelo do servidor, e que a defesa por embaralhamento é incompatível com a correção que esses sistemas precisam entregar.

#extracao-de-modelo #fhe #inferencia-privada #confidencialidade-de-modelo #artigo-cientifico

Fonte ↗