tema

#poisoning

3 publicações marcadas com esta tag.

risco médioOS-2026-239 · 2026-08-18

Quem os motores de busca generativos preferem citar — e como isso abre espaço para manipulação política

O estudo caracteriza a superfície de ataque de motores de busca generativos (GSEs) contra ataques de poisoning via citações, propondo a métrica 'content-injection barrier' para medir o quão difícil é inserir conteúdo malicioso na web com determinado nível de autoridade de publisher. Testado no domínio político nos EUA e no Japão, o trabalho encontra que partidos no poder têm superfície de ataque maior que a oposição, e que perfis de personalização do usuário têm pouca influência sobre quais fontes são citadas.

#artigo-cientifico #busca-generativa #poisoning #citacoes #llm

Fonte ↗

risco altoOS-2026-240 · 2026-08-18

Poisoning sem tocar nos pesos: como wrapper e metadados de deploy podem sequestrar um modelo de IA

O paper demonstra que um desenvolvedor malicioso pode combinar um wrapper de aparência inofensiva com metadados de configuração (JSON/YAML) para alterar de forma determinística o comportamento de um LLM ou VLM após a geração, sem tocar nos pesos do modelo, nos dados de treino ou no backend de inferência. Testado contra quinze implantações comerciais e de código aberto, o ataque evade a maioria das defesas avaliadas, levando os autores a propor o middleware TIF-BAH como camada leve de verificação de integridade.

#artigo-cientifico #supply-chain-de-ia #poisoning #wrapper-malicioso #integridade-de-deploy

Fonte ↗

risco médioOS-2026-036 · 2026-07-20

Sons do cotidiano podem virar gatilhos furtivos de backdoor em sistemas de reconhecimento de voz

Pesquisadores demonstram backdoors em modelos de reconhecimento de fala ativados por sons naturais do dia a dia, em vez de ruídos artificiais facilmente filtráveis. Com apenas 5% de amostras de treino envenenadas, o ataque atinge taxa de sucesso próxima de 100% sem prejudicar o desempenho do modelo em entradas legítimas.

#artigo-cientifico #backdoor #reconhecimento de voz #poisoning #ataque furtivo

Fonte ↗