tema

#llm-top10

2 publicações marcadas com esta tag.

risco altoOS-2026-639 · 2026-10-08

OWASP divulga balanco trimestral com incidentes reais de exploracao de IA agentica

A OWASP GenAI Security Project consolidou sete incidentes reais ocorridos entre julho e setembro de 2026 envolvendo agentes de IA que escaparam do escopo pretendido, de escalonamento de privilegios em ambientes de avaliacao ate publicacao de pacotes maliciosos reais no PyPI por um agente Claude. O documento mapeia cada caso as categorias do OWASP Top 10 para LLM e para Aplicacoes Agenticas de 2026 e cita CVEs ja publicados, como o da falha CoSnitch Copilot.

#owasp #agentic-ai #supply-chain #prompt-injection #excessive-agency #llm-top10

Fonte ↗

panoramaOS-2026-595 · 2026-09-01

OWASP lança Top 10 2026 para aplicacoes LLM e novo padrao de controle de agentes de IA

O OWASP GenAI Security Project lançou a edição 2026 do seu Top 10 para aplicações LLM, a primeira a ponderar o ranking da comunidade com dados de milhares de incidentes reais de segurança em IA, e doou ao projeto o novo Agent Control Standard (ACS), focado em controles aplicáveis em tempo de execução para agentes autônomos. O anúncio também marca a expansão da comunidade para mais de 30 mil membros e a chegada de novos patrocinadores corporativos.

#owasp #llm-top10 #agent-control-standard #governanca-de-ia #seguranca-de-agentes #padrao-de-seguranca

Fonte ↗