ThreatsDay: envenenamento de buscas por IA, assistente de código chinês vazando repositórios e trojan bancário com artefatos gerados por IA
O resumo semanal do The Hacker News reúne uma campanha de "AI search poisoning" que inunda a web com páginas falsas para enganar ChatGPT, Gemini e AI Overviews e fazê-los recomendar números de suporte e logins fraudulentos de bancos e companhias aéreas, e uma falha de configuração padrão no assistente de código chinês Z.ai ZCode que enviava repositórios locais dos usuários para a Alibaba Cloud sem consentimento. A mesma edição descreve o trojan bancário Android RemControl, cuja documentação interna traz artefatos de codificação assistida por IA, e uma campanha de phishing browser-in-the-browser mirando contas do Claude.
O item de maior destaque é a campanha de envenenamento de buscas de IA: atacantes publicam em massa posts, PDFs e páginas falsas otimizados para os sistemas de recuperação de ChatGPT, Google Gemini e AI Overviews, de forma que esses assistentes citem como resposta "confiável" números de telefone, e-mails e páginas de login fraudulentos. Marcas como Delta, Lufthansa, Qatar Airways, Chase, Bank of America, Airbnb e TripAdvisor foram usadas como isca, e o conteúdo malicioso foi distribuído por GitHub, Google Sites, Blogger, WordPress, Yelp e Apple Maps — superfícies que os crawlers de IA generativa tratam como fontes legítimas.
Tecnicamente, o ataque explora a mesma fraqueza que motiva a maior parte da pesquisa sobre RAG e busca aumentada por IA: o sistema prioriza recência e volume de menções sobre verificação de autoridade da fonte, então basta saturar o índice com páginas otimizadas para SEO/GEO (generative engine optimization) para deslocar o resultado legítimo. Isso converte o assistente de IA em canal de distribuição de golpe de suporte técnico, sem precisar comprometer a infraestrutura do banco ou da companhia aérea visada.
O segundo caso é mais próximo de uma vulnerabilidade clássica: o Z.ai ZCode, ferramenta de codificação assistida por IA popular na China, tinha como comportamento padrão o envio do código-fonte local do usuário para servidores da Alibaba Cloud, sem aviso claro nem opt-in. A empresa desabilitou o recurso e abriu o código para auditoria pública depois da divulgação — um padrão que se repete (o artigo cita o caso similar do Grok Build fazendo upload de repositórios Git inteiros), evidenciando que ferramentas de IA para desenvolvimento frequentemente telemetram ou sincronizam código sensível por padrão, sem que isso fique claro para quem instala a extensão.
Por fim, o RemControl é um trojan bancário Android tradicional (overlays de phishing, streaming de tela, keylogging) distribuído via anúncios falsos no Meta que levam a páginas clonadas da Play Store, mas o relatório nota que a documentação do painel do operador e os overlays de phishing carregam artefatos característicos de código gerado por IA — um indício de que operadores de malware já usam assistentes de codificação para acelerar o desenvolvimento de suas próprias ferramentas ofensivas, e não só os defensores usam IA contra eles.