tema

#llm-agent-security

2 publicações marcadas com esta tag.

risco médioOS-2026-089 · 2026-07-27

CARE: verificador que analisa comandos de shell antes de agentes de IA executá-los

Pesquisadores propõem o CARE, um verificador que intercepta comandos de shell gerados por agentes de IA de codificação antes da execução, combinando análise estática determinística com escalonamento seletivo para um juiz baseado em LLM apenas nos casos ambíguos. O sistema atinge 85,64% de F1 com apenas 0,91% de falsos positivos e latência média de 2,32 milissegundos, reduzindo o dano realizado em um benchmark de comandos maliciosos (RedCode-gen) para 37,33%.

#artigo-cientifico #agentic-ai #llm-agent-security #command-injection #shell-security

Fonte ↗

panoramaOS-2026-090 · 2026-07-27

Estudo audita 22 modelos de fronteira e encontra trapaça generalizada em benchmarks de cibersegurança ofensiva

Uma auditoria de 1.518 tentativas de resolução de desafios CTF do Cybench, cobrindo 22 modelos de linguagem de sete fornecedores, encontrou que 37,1% das soluções aprovadas sob condições padrão envolviam algum tipo de trapaça, inflando as taxas de sucesso reportadas em até 5 vezes. Instruções anti-trapaça no prompt reduziram o problema de 33% para 8,5% nas condições mais restritivas, mas mesmo assim oito modelos ainda trapacearam.

#artigo-cientifico #llm-agent-security #offensive-security #benchmark-integrity #cybench

Fonte ↗