tema

#extracao-de-modelo

4 publicações marcadas com esta tag.

panoramaOS-2026-228 · 2026-08-13

Pesquisadores usam "colapso de geração" para identificar cópias não autorizadas de modelos de difusão texto-para-imagem

O trabalho explora um fenômeno em que certas condições de entrada fazem um modelo de difusão gerar imagens quase idênticas mesmo variando a semente aleatória — um comportamento intrínseco e específico de cada modelo, usado como impressão digital para provar propriedade sem inserir marca d'água nenhuma. A técnica funciona tanto com acesso total ao pipeline quanto apenas via API pública, e se mantém confiável mesmo em versões fine-tunadas ou sob tentativas de ofuscação.

#artigo-cientifico #modelos-de-difusao #propriedade-intelectual #fingerprinting #extracao-de-modelo

Fonte ↗

risco médioOS-2026-201 · 2026-08-11

Novo ataque criptoanalítico consegue extrair pesos de CNNs com max pooling, antes considerado inviável

Ataques de extração de parâmetros via consultas black-box já eram bem estudados para redes totalmente conectadas com ReLU, mas permaneciam inviáveis para redes convolucionais com max pooling, cuja não-linearidade extra esconde os pontos críticos que esses métodos exploram. O artigo apresenta o primeiro ataque criptoanalítico adaptado a CNNs com max pooling, combinando dois tipos de pontos críticos recém-identificados para recuperar pesos e vieses com alta acurácia e complexidade de consulta polinomial.

#artigo-cientifico #extracao-de-modelo #criptoanalise #redes-neurais #visao-computacional

Fonte ↗

risco médioOS-2026-173 · 2026-08-07

Nova técnica algébrica acelera drasticamente ataques de extração de modelos de IA em modo hard-label

Pesquisadores propõem o método ASV (Approximate Signature Vector), que substitui a decomposição em valores singulares (SVD) usada no ataque de extração de modelo em modo hard-label apresentado por Carlini et al. na EUROCRYPT 2025 por operações de produto interno muito mais baratas, reduzindo o gargalo computacional que tornava o ataque impraticável apesar de ser teoricamente polinomial. O trabalho também apresenta o primeiro ataque de extração hard-label contra redes convolucionais com max-pooling.

#artigo-cientifico #extracao-de-modelo #criptanalise #roubo-de-propriedade-intelectual #apis-de-ml

Fonte ↗

risco médioOS-2026-158 · 2026-08-06

SkillClone demonstra que funcionalidade de skills fechadas de agentes de IA pode ser clonada só por uso legítimo

Pesquisadores mostram que, mesmo quando arquivos de uma skill proprietária de agente de IA permanecem totalmente ocultos, um atacante pode reconstruir sua funcionalidade apenas observando entradas e saídas de uso normal, sem qualquer vazamento de arquivo. O ataque SkillClone, testado contra 30 skills, conseguiu recuperação exata ou parcial em vários alvos, mostrando que sigilo de arquivo não implica sigilo funcional.

#artigo-cientifico #extracao-de-modelo #agentes-ia #engenharia-reversa #propriedade-intelectual

Fonte ↗