tema

#criptografia

5 publicações marcadas com esta tag.

risco altoOS-2026-436 · 2026-09-16

Pesquisadores implementam na prática um backdoor de IA criptograficamente indetectável, usando só numpy e scipy

O trabalho reproduz de ponta a ponta uma construção teórica de Goldwasser et al. que planta backdoors em modelos treinados com Random Fourier Features de forma indetectável mesmo por auditoria completa dos pesos, mostrando que ela é realizável com ferramentas comuns de computação científica, sem infraestrutura criptográfica especializada. Testes de indistinguibilidade não encontraram diferença estatística entre modelos limpos e comprometidos.

#artigo-cientifico #backdoor #machine-learning #criptografia #seguranca-de-ia

Fonte ↗

panoramaOS-2026-379 · 2026-09-09

KITA usa assinatura threshold para impedir que prompt injection vire autorizacao de acao em agentes LLM

O paper propoe KITA, uma arquitetura em que a chave de assinatura do usuario nunca fica acessivel a nenhum processo de LLM: ela e fragmentada entre multiplos dominios revisores via assinatura threshold BLS, de forma que uma acao efetiva (pagamento, mudanca de permissao) só é autorizada se pelo menos t dominios distintos, nao comprometidos, assinarem a mesma acao canonica apos revisao autenticada. A motivacao e concreta -- agentes LLM que interpretam conteudo nao confiavel e ao mesmo tempo controlam uma credencial de assinatura reutilizavel permitem que prompt injection atravesse diretamente para autoridade de execucao.

#artigo-cientifico #agentes-ia #prompt-injection #criptografia #controle-de-acesso

Fonte ↗

panoramaOS-2026-131 · 2026-08-03

MOSAIC permite terceirizar inferência de transformers de 70B para servidores não confiáveis sem vazar dados

MOSAIC é um protocolo que permite terceirizar inferência de modelos de linguagem grandes, testado em 70B parâmetros, para servidores não confiáveis sem revelar dados nem pesos do modelo, usando mascaramento de multiplicação de matrizes com segurança baseada em suposições criptográficas padrão. O sistema tolera pequeno ruído controlado para ganhar desempenho e mantém qualidade comparável a métodos de quantização populares. A proposta aponta um caminho prático para computação confidencial de IA em escala, hoje dominada por enclaves de hardware caros.

#computacao-confidencial #criptografia #llm #artigo-cientifico #outsourcing

Fonte ↗

risco médioOS-2026-064 · 2026-07-22

CryptanalysisBench: modelos de fronteira já quebram até 86% de cifras com ataques práticos conhecidos e encontram falha inédita em cifra candidata do NIST

Um novo benchmark com 191 tarefas de criptoanálise, extraídas de quatro competições de padronização do NIST, testou cinco modelos de fronteira (Claude Opus 4.8, Sonnet 5, Mythos 5, GPT-5.5 e o modelo de peso aberto GLM-5.2) e descobriu que eles resolvem entre 65% e 86% dos esquemas com quebras práticas já conhecidas. Mais notável: os modelos produziram criptoanálise inédita, incluindo um ataque de recuperação de chave que explora uma falha de design no AEAD SpoC e um erro na prova de segurança CCA publicada do KINDI, nenhum dos dois documentado anteriormente.

#artigo-cientifico #criptoanalise #llm-como-ferramenta-ofensiva #criptografia

Fonte ↗

panoramaOS-2026-033 · 2026-07-20

Proposta acopla assinatura criptográfica a planos gerados por LLM para barrar sequestro de agentes

Pesquisadores propõem o Neural Cryptographic Services (NCS), uma camada de governança que separa o planejamento feito por um LLM, sem autoridade de execução, de um controlador simbólico determinístico que só libera ações previamente assinadas e encadeadas por hash. Em testes no benchmark AgentDojo e em um benchmark próprio de sequestro de argumentos, a taxa de sucesso de ataques de prompt injection caiu a quase zero.

#artigo-cientifico #prompt injection #seguranca de agentes #governanca #criptografia

Fonte ↗