Um estudo demonstra que rodar um modelo de IA genômica de 15 bilhões de parâmetros distribuído entre navegadores voluntários (via WebGPU) expõe as sequências de DNA processadas: um único worker malicioso consegue identificar o genoma de origem com 92% de acurácia a partir de apenas 300 tokens. Os autores propõem proteger as entradas dos especialistas do modelo com computação codificada de Lagrange, eliminando esse vazamento sem custo relevante de desempenho.
Fonte ↗Outro estudo do mesmo domínio mostra que terceirizar a inferência de um modelo genômico de 15 bilhões de parâmetros para servidores de GPU não confiáveis permite reconstruir a sequência de DNA original com 99,8% de acurácia a partir de um único especialista comprometido. Como alternativa à computação codificada, os autores propõem criptografia homomórfica baseada em module-LWE que evita o vazamento sem exigir bootstrapping nem aproximação polinomial.
Fonte ↗A ablação direcional, técnica de caixa-branca que remove a capacidade de recusa de um modelo projetando para fora dos pesos uma única 'direção de recusa', era validada até agora apenas em modelos densos de até cerca de 70B parâmetros. Este estudo aplica a técnica ao GLM-5.3-Flash, um modelo mixture-of-experts de 320B parâmetros com 288 especialistas roteados, e mostra que ela sobrevive à mudança de arquitetura, mas só funciona plenamente quando atenção, pesos densos e especialistas roteados são editados em conjunto, produzindo reduções de recusa de 41 a 89 pontos percentuais em sete benchmarks nocivos sem perda de capacidade detectada.
Fonte ↗Pesquisadores propõem o WoE, uma técnica de watermarking que embute o sinal de proveniência diretamente nos pesos de modelos Mixture-of-Experts esparsos, em vez de depender do wrapper de inferência controlado pelo dono do modelo. Isso permite atribuir texto gerado mesmo depois que os pesos são roubados ou vazados — algo que os métodos de watermark tradicionais, dependentes do sampler de inferência, não conseguem fazer — com taxa de detecção de até 94,9% e resistência a fine-tuning, extração de modelo e paráfrase.
Fonte ↗Pesquisadores demonstram o Load Hijack, um ataque de cadeia de suprimentos em que um provedor malicioso de checkpoints modifica apenas os pesos do roteador de um modelo Mixture-of-Experts, mantendo um gatilho privado que, quando presente na entrada, concentra o roteamento de tokens em experts hospedados numa única GPU — transformando esse dispositivo num gargalo que atrasa todos os pares em paralelismo de especialistas, sem alterar visivelmente o comportamento do modelo em entradas normais. O ataque atinge de 92,3% a 95,6% de concentração de tokens nos experts alvo e, em serviço real, aumenta o tempo até o primeiro token em 43% enquanto derruba o throughput.
Fonte ↗