Survey propoe framework para rastrear como agentes de IA que se autoatualizam acumulam riscos de seguranca
O artigo revisa a literatura sobre seguranca de agentes autoevolutivos -- sistemas baseados em LLM que atualizam continuamente parametros, memorias, ferramentas e workflows a partir da propria experiencia -- e propoe o framework SAVER para mapear como esse estado reutilizavel pode se tornar inseguro mesmo sem nenhuma entrada maliciosa isolada. A conclusao central e que boa parte da pesquisa atual cobre bem a entrada e a contencao local de informacao nociva, mas quase nada sobre verificar se uma correcao de seguranca realmente se propaga e se mantem depois que o agente continua evoluindo.
Fonte ↗