olimposec.com
tema

#tool-calling

3 publicações marcadas com esta tag.

risco altoOS-2026-511 · 2026-09-25
0

"Denial-of-wallet": pesquisa demonstra ataque que faz uma ferramenta maliciosa multiplicar por até 14 mil vezes o custo de uma sessão de agente de IA

Pesquisadores identificam e formalizam uma nova classe de ataque — "estado billable persistente" — em que uma ferramenta admitida (maliciosa ou comprometida) em um agente LLM com chamadas de ferramenta consegue transformar dados não confiáveis em processamento recorrente cobrado da vítima, sem precisar de credenciais ou privilégio no runtime local. Em 243 execuções de teste contra seis famílias de modelos, o consumo cumulativo de entrada por sessão chegou a 14.293 vezes o tamanho da primeira chamada, e uma varredura de 3.830 repositórios de servidores e transporte MCP encontrou proteção code-visible contra esse vetor em apenas 71 deles, nenhum cobrindo todas as quatro famílias de salvaguarda propostas.

Fonte ↗
risco altoOS-2026-450 · 2026-09-17
0

Ataques de fragmentação entre canais driblam defesas de injeção de prompt em pipelines MCP com até 100% de sucesso

Pesquisadores mostraram que dividir um payload malicioso entre dois ou três canais de entrada do Model Context Protocol (descrições de ferramentas, resultados de ferramentas, mensagens de amostragem) faz modelos que resistem 100% a injeção de canal único vazarem credenciais em até 100% dos casos. Em mais de 15 mil testes contra 12 modelos de ponta, três clientes de produção e sete ferramentas de segurança MCP, nenhuma defesa testada detectou os payloads fragmentados.

Fonte ↗
panoramaOS-2026-252 · 2026-08-19
0

Levantamento mapeia superfície de ataque de agentes de IA que operam sobre blockchains via MCP e tool calling

Um levantamento sistematiza os ataques possíveis contra agentes de IA que atuam sobre blockchains públicas via MCP, skills e tool calling, destacando que a fração de ferramentas de agentes capazes de alterar estado externo, não só ler, já passa de 65%. Os autores argumentam que a irreversibilidade das transações on-chain, a autoridade de assinatura dos agentes e a composição de ações em sequência tornam falhas comuns de agentes muito mais graves nesse contexto, e que as defesas atuais bloqueiam menos de 30% dos ataques mapeados.

Fonte ↗