Estudo com 465 pessoas mostra que IA consegue inferir dados sensíveis de usuários a partir de apenas parte dos dados do smartphone
Pesquisadores de Harvard construíram o Priva-See, um sistema baseado em LLM que simula como empresas de adtech poderiam usar IA para inferir características sensíveis de usuários a partir de dados parciais coletados por apps de celular (fotos, mensagens, calendário). Em um estudo com 465 participantes aprovado por comitê de ética, o sistema fez inferências invasivas de privacidade mesmo tendo acesso a apenas um subconjunto dos dados do usuário, o que levou os autores a recomendar mudanças em como os sistemas operacionais móveis pedem consentimento de acesso a dados.
A pesquisa parte de uma mudança estrutural na indústria de rastreamento publicitário: por décadas a vigilância comercial dependia de dados estruturados (IP, GPS, histórico de compras), mas modelos multimodais atuais conseguem extrair inferências sensíveis diretamente de fotos, vídeos, e-mails e calendários — conteúdo não estruturado que um app já tinha permissão de acessar "para uma função", mas que agora também alimenta perfis comportamentais muito mais ricos do que o usuário imagina ao conceder a permissão.
O Priva-See é descrito pelos autores como uma reconstrução de boa-fé de como uma empresa de adtech real usaria IA generativa para esse fim: o sistema recebe os dados que um app comum teria acesso no celular e usa um LLM para produzir inferências sobre demografia, interesses e outras características do usuário. A escolha de validar isso com um estudo de campo real, e não apenas em bancada, é o que dá peso ao resultado — 465 participantes instalaram o sistema em seus próprios aparelhos e permitiram que ele analisasse subconjuntos reais dos seus dados.
O achado central é que o sistema produziu inferências invasivas de privacidade mesmo com acesso parcial aos dados — ou seja, negar acesso a uma categoria de dado não impede necessariamente que um sistema de IA infira aquela mesma informação a partir de outras categorias correlacionadas. Isso quebra a premissa que sustenta o modelo de permissões por categoria dos sistemas operacionais móveis atuais (Android/iOS), no qual o usuário julga o risco de conceder acesso "à foto" ou "ao calendário" isoladamente, sem saber que a combinação desses dados, processada por um modelo, produz um perfil muito mais completo.
Os próprios participantes relataram que a experiência mudou sua disposição de conceder permissões no futuro, o que reforça a recomendação central do artigo: sistemas operacionais deveriam comunicar não o dado bruto que uma permissão libera, mas a capacidade de inferência downstream que ela habilita. Para times de segurança e privacidade, o estudo é evidência empírica concreta de que modelos de ameaça de privacidade desenhados para a era pré-LLM subestimam sistematicamente o que um adversário (ou uma rede de anúncios) consegue extrair de permissões aparentemente inofensivas.