Anthropic diz que sete laboratórios chineses de IA fizeram destilação ilegal em massa do Claude

A Anthropic publicou detalhes de seis campanhas de destilação ilícita rastreadas sob os identificadores GTG-16001 a GTG-16012, apontando volumes de exchanges expressivos: 151 milhões atribuídos à Alibaba, 23 milhões à Moonshot AI, 12,1 milhões à DeepSeek, 3,4 milhões à Zhipu/Z.ai, além de campanhas menores ligadas a Xiaomi, SenseTime e MiniMax. Diferente da destilação de conhecimento legítima, em que um laboratório treina abertamente um modelo menor a partir das saídas de outro com autorização, aqui o objetivo declarado pela Anthropic foi replicar comportamentos do Claude sem consentimento e em escala industrial.

Tecnicamente, a operação combinou várias camadas de ofuscação: criação de milhares de contas fraudulentas usando cartões de crédito roubados e chaves de API obtidas ilicitamente, roteamento de tráfego por serviços de proxy para esconder a origem geográfica das requisições, redirecionamento silencioso de consultas de usuários finais para o Claude sem informá-los, e até a compra de transcrições de conversas de revendedores terceiros. Um ponto sensível é a coleta da cadeia de raciocínio (chain-of-thought) do modelo, um artefato que revela não só a resposta final mas o processo interno de decisão, e que é particularmente valioso para replicar o comportamento de um modelo de fronteira em treinamento.

Na prática, esse tipo de ataque ataca diretamente o modelo de negócio e a vantagem competitiva de provedores de LLM: se um concorrente consegue reconstruir boa parte da capacidade de um modelo caro de treinar apenas consultando sua API em volume, o investimento em pesquisa e infraestrutura perde parte do retorno esperado. Isso ajuda a explicar por que a Anthropic respondeu não só banindo contas e revendedores, mas também com mudanças técnicas no próprio produto — passou a resumir o raciocínio interno antes de expor a resposta e introduziu um mecanismo de "preserved thinking" que cifra a cadeia de raciocínio para dificultar tanto a extração quanto a manipulação via prompt.

O episódio ilustra como a disputa geopolítica em IA entre EUA e China também se trava no nível de abuso de API: contramedidas antifraude (detecção de padrões de conta, proxies e volume anômalo de requisições) tornam-se parte central da segurança de produto de qualquer provedor de LLM competitivo, e não apenas um tema de conformidade.