tema

#multi-agente

2 publicações marcadas com esta tag.

risco médioOS-2026-072 · 2026-07-23

ChannelGuard revela que a seguranca de pipelines multi-agente depende de filtros que ninguem media

Um estudo com 2.100 execucoes de ataque mostra que pipelines multi-agente que pareciam totalmente seguros em relatorios padrao (0% de sucesso de ataque) na verdade devem quase toda essa protecao a um filtro server-side do provedor de nuvem, e nao a defesas da propria aplicacao. Os autores propoem o ChannelGuard, portoes de information bottleneck colocados em cada canal entre agentes, para fechar essa lacuna sem depender de um unico ponto de filtragem opaco.

#multi-agente #prompt-injection #defesa #llm #artigo-cientifico

Fonte ↗

panoramaOS-2026-073 · 2026-07-23

ChainWatch usa modelo de Markov oculto para detectar ataques em multiplos passos contra agentes MCP

Pesquisadores propoem o ChainWatch, um framework que modela a progressao de ataques contra agentes de IA baseados em Model Context Protocol (MCP) como uma cadeia de seis estagios, detectando sequencias maliciosas compostas por chamadas de ferramenta individualmente inofensivas. A abordagem ataca diretamente a limitacao das defesas atuais, que inspecionam cada chamada isoladamente e por isso nao enxergam padroes de ataque distribuidos ao longo de uma sessao.

#mcp #deteccao #multi-agente #artigo-cientifico #agentes-de-ia

Fonte ↗