#caixa-preta — OlimpoSec

risco médioOS-2026-602 · 2026-10-06

Localize-and-Detect audita modelos de instrucao em busca de envenenamento direcionado a uma unica tarefa

O metodo Localize-and-Detect localiza, em modo caixa-preta, tarefas de instrucao especificas que foram deliberadamente envenenadas durante o fine-tuning para produzir conteudo tendencioso, sem que haja um gatilho explicito no texto de entrada. Avaliado em 216 modelos envenenados de duas familias diferentes, o metodo identificou com sucesso as tarefas-alvo e o conteudo injetado, com poucos falsos positivos em modelos limpos.

#artigo-cientifico #envenenamento-de-dados #llm #fine-tuning #auditoria #caixa-preta

Fonte ↗

risco médioOS-2026-603 · 2026-10-06

TellTail: ataque de fingerprinting identifica qual modelo de embeddings esta por tras de um sistema de busca em caixa-preta

O ataque TellTail permite identificar, apenas por meio de consultas, qual modelo de embeddings (retriever) esta sendo usado dentro de um sistema RAG opaco, atingindo identificacao perfeita quando os rankings completos de recuperacao sao visiveis e ainda 92,5% de acerto quando apenas a resposta final gerada pelo LLM e exposta. A tecnica explora justamente a baixa transferibilidade entre modelos de embeddings -- que normalmente limitaria outros ataques -- como uma assinatura util para reconhecimento.

#artigo-cientifico #fingerprinting #rag #embeddings #caixa-preta #reconhecimento

Fonte ↗