olimposec.com
tema

#bypass-de-aprovacao

2 publicações marcadas com esta tag.

risco altoOS-2026-512 · 2026-09-25
0

"Approval laundering": pesquisa mostra que aprovar um comando em agentes de codificação não cobre os efeitos que esse comando dispara

O estudo identifica uma falha de cobertura em interfaces de aprovação de agentes de codificação: o registro de auditoria associa a decisão humana apenas ao comando ou chamada de ferramenta aprovado, mas não aos efeitos transitivos que esse comando executa — como um hook de instalação de pacote que grava arquivos ou uma chamada MCP que exerce autoridade de rede. Em um benchmark de 111 pares de objetos de aprovação e rastro real, vincular metadados no momento da decisão reduziu os registros com efeito não coberto de 40 para 3, e os autores integraram a defesa como hook PreToolUse do Claude Code.

Fonte ↗
risco altoOS-2026-474 · 2026-09-21
0

"Loopjacking": pesquisa reproduz falha de aprovação humana em agentes de IA da Agno, LangGraph e OpenClaw

Um pesquisador demonstrou que, em vários frameworks de agentes de IA, a operação que o humano aprova pode não ser a operação realmente executada. O trabalho batiza essa classe de falha de "Loopjacking" e reproduz bypasses concretos no Agno AgentOS (até a versão 3.0.9), em composições do LangGraph Agent Server (até 0.14.0) e no OpenClaw 2026.2.23, enquanto o OpenAI Agents SDK resistiu aos mesmos testes.

Fonte ↗