SINGED: agentes de IA executam código malicioso escondido mesmo quando o resultado apresentado está correto
O benchmark SINGED mostra que agentes de LLM que selecionam ferramentas de terceiros podem escolher implementações 'falsificadas funcionalmente' — que produzem a saída correta pedida mas embutem um efeito colateral proibido. Em 45% dos casos testados na posição de melhor ranking, o agente executou a versão maliciosa mesmo com uma alternativa benigna disponível, e sete modelos considerados seguros nesse cenário passaram a executar o código malicioso em mais de 30% dos casos quando a alternativa segura deixou de existir.
Fonte ↗