tema

#vazamento-de-privacidade

3 publicações marcadas com esta tag.

risco médioOS-2026-480 · 2026-09-21

Framework CIPL mede quanto de dado sensível um agente de IA realmente vaza para um atacante externo

Estudos de privacidade em agentes de LLM costumam avaliar memória, recuperação e uso de ferramentas isoladamente, o que dificulta saber quanto de exposição interna de dado sensível realmente vira informação recuperável por um observador externo. O CIPL propõe uma metodologia unificada, em seis estágios, para medir essa transição, e conclui que o rótulo de onde o dado está armazenado não prevê, sozinho, o risco real de vazamento.

#agentes-de-ia #vazamento-de-privacidade #avaliacao-de-seguranca #llm #artigo-cientifico

Fonte ↗

risco médioOS-2026-330 · 2026-09-01

Auditoria mostra que embeddings de biometria comportamental vazam gênero, idade e altura mesmo sem essa intenção

Um estudo com 11 modelos de biometria comportamental (movimento ocular, voz, digitação e marcha) sobre 9 datasets mostra que os embeddings de identidade usados para autenticação vazam atributos demográficos sensíveis, mesmo sem essa intenção de design. Voz é fácil de sanitizar sem perder utilidade de autenticação, mas os padrões de digitação/toque resistem às quatro técnicas de supressão testadas, revelando um risco de privacidade estrutural nesses sistemas de autenticação baseados em IA.

#artigo-cientifico #biometria-comportamental #vazamento-de-privacidade #autenticacao #inferencia-de-atributos

Fonte ↗

risco médioOS-2026-332 · 2026-09-01

Decodificação colaborativa nuvem-borda entre LLMs pequenos e grandes vaza dados privados do usuário

Pesquisadores demonstram que o paradigma de decodificação colaborativa nuvem-borda — em que um modelo pequeno local processa dados privados e funde suas distribuições de próximo token com um LLM na nuvem que só vê dados públicos — ainda vaza quantidades substanciais de contexto privado, usando um novo framework de avaliação baseado em datasets de QA. A defesa proposta, CoVeil, otimiza dinamicamente o sinal transmitido durante a decodificação e reduz o vazamento em até 87,2% com perda mínima de acurácia.

#artigo-cientifico #vazamento-de-privacidade #llm #edge-ai #decodificacao-colaborativa

Fonte ↗