SelfOp: algoritmo faz agentes de segurança baseados em LLM se autoaperfeiçoarem sem retreinar o modelo
O SelfOp otimiza automaticamente o contexto (instruções, skills e documentos de referência) de um agente de segurança baseado em LLM sem alterar os pesos do modelo, propagando um "gradiente textual" do resultado de cada tarefa de volta para as partes do contexto que influenciaram aquele comportamento. No benchmark CyberGym, de reprodução de vulnerabilidades reais, o método gerou ganhos de até 18,5 pontos com menos de 200 exemplos de treino, superando inclusive o modelo de fronteira usado como linha de base.
Fonte ↗