tema

#sok

2 publicações marcadas com esta tag.

risco médioOS-2026-216 · 2026-08-12

SoK mapeia superfície de ataque completa da IA agêntica: de RAG envenenado a manipulação entre agentes

Uma sistematização de conhecimento (SoK) mapeia fronteiras de confiança e riscos de segurança em sistemas de IA agêntica que combinam LLMs, ferramentas, RAG e loops autônomos multiagente, sintetizando mais de 20 estudos revisados por pares e relatórios de indústria de 2023-2025 numa taxonomia que cobre injeção de prompt indireta, envenenamento de bases de conhecimento, exploração de plugins/ferramentas e ameaças emergentes entre agentes. Os autores também propõem métricas de postura de segurança e um checklist de segurança em fases para orientar deploys de IA agêntica.

#artigo-cientifico #agentes-ia #sok #rag #superficie-de-ataque

Fonte ↗

panoramaOS-2026-151 · 2026-08-06

SoK propõe framework de cinco dimensões para mapear como IA de fronteira altera a dinâmica de risco em infraestrutura crítica

Um Systematization of Knowledge (SoK) argumenta que a literatura atual de segurança de IA, organizada por tipo de ataque ou estágio do ciclo de vida, não captura como o risco realmente emerge e se propaga quando modelos de fronteira são integrados a infraestrutura crítica. Os autores propõem um framework de cinco dimensões — emergência de capacidade, vias de infiltração, propagação entre sistemas, degradação de controle e sobrecarga da capacidade de resposta institucional — para deslocar o foco de robustez de modelo isolado para garantias em nível de sistema.

#artigo-cientifico #infraestrutura-critica #sok #risco-sistemico #ia-agentiva

Fonte ↗