tema

#human-in-the-loop

2 publicações marcadas com esta tag.

risco altoOS-2026-474 · 2026-09-21

"Loopjacking": pesquisa reproduz falha de aprovação humana em agentes de IA da Agno, LangGraph e OpenClaw

Um pesquisador demonstrou que, em vários frameworks de agentes de IA, a operação que o humano aprova pode não ser a operação realmente executada. O trabalho batiza essa classe de falha de "Loopjacking" e reproduz bypasses concretos no Agno AgentOS (até a versão 3.0.9), em composições do LangGraph Agent Server (até 0.14.0) e no OpenClaw 2026.2.23, enquanto o OpenAI Agents SDK resistiu aos mesmos testes.

#ia-agentica #human-in-the-loop #bypass-de-aprovacao #langgraph #agno-agentos #openclaw #seguranca-de-agentes #artigo-cientifico

Fonte ↗

risco altoOS-2026-452 · 2026-09-17

Verifiable Action Card quer blindar navegadores agênticos contra confirmações forjadas por injeção de prompt

Sem defesa, ataques de deputado confuso e diálogos de confirmação forjados enganaram os LLMs testados em 68% a 100% dos casos em um navegador agêntico completo. O Verifiable Action Card reconstrói a tela de aprovação a partir da ação real pendente no navegador — não do texto gerado pelo modelo — e a renderiza fora da área que uma página pode manipular, derrubando a taxa de sucesso desses ataques a 0% em 24 cenários, mantendo 78% de conclusão de tarefas legítimas.

#artigo-cientifico #agentes-ia #prompt-injection #navegador-agentico #human-in-the-loop

Fonte ↗