Pesquisa mostra como envenenar caches semânticos de LLM e propõe defesa que reduz mais de 80% dos ataques
Caches semânticos, usados por provedores de LLM para reduzir custo reaproveitando respostas de consultas parecidas, podem ser envenenados: um atacante insere uma resposta maliciosa sob uma consulta com alta similaridade de embedding a pedidos legítimos, fazendo com que usuários benignos recebam a resposta forjada depois. Os autores identificam a estrutura típica desse ataque e propõem uma defesa que bloqueia entre 82% e 98,2% das entradas envenenadas com baixa taxa de falso positivo.
Fonte ↗