tema

#reinforcement-learning

4 publicações marcadas com esta tag.

panoramaOS-2026-626 · 2026-10-08

Agente de reforco aprende a evadir sistemas de deteccao de intrusao baseados em ML mesmo com visibilidade limitada da defesa

Pesquisadores treinaram um agente de Deep Q-Network para aprender combinacoes evasivas de timing de probes, flags TCP e tamanho de payload contra um IDS real baseado em Zeek rodando em um Raspberry Pi 3B+, com deteccao por XGBoost, MLP e CNN 1D. Mesmo em cenario black-box, onde o atacante nao ve os parametros internos do modelo defensivo, as taxas de evasao alcancaram entre 61,9% e 98,3%, e o efeito da visibilidade de features sobre a evasao nao foi monotonico nem uniforme entre os modelos.

#artigo-cientifico #adversarial-ml #ids-evasion #reinforcement-learning #iot-security #edge-ai

Fonte ↗

panoramaOS-2026-634 · 2026-10-08

Framework usa LLM como consultor durante treinamento de agente de defesa ciberneutica por reforco, descartando o modelo antes da implantacao

O framework Ask the Expert melhora a eficiencia amostral de agentes de defesa ciberneutica treinados por aprendizado por reforco (PPO) consultando um LLM intermitentemente durante o treinamento para obter recomendacoes defensivas de alto nivel, que sao convertidas em recompensas escalonadas; o LLM e descartado apos o treinamento, entao a politica final implantada e puramente de RL, sem dependencia de LLM ou latencia de inferencia em producao. Testado nos ambientes de referencia TTCP CAGE CC1 e CC2, o metodo superou o PPO puro e baselines de reward shaping baseado em potencial, mantendo o melhor desempenho terminal medio.

#artigo-cientifico #cyber-defense #reinforcement-learning #llm-as-tool #autonomous-defense

Fonte ↗

risco médioOS-2026-533 · 2026-09-28

JevAdvBench expõe que modelos de decisão automatizada podem ser manipulados por uma única opinião não verificada no estado de entrada

Modelos treinados com reinforcement learning para decisões calibradas (RLCD) retornam probabilidades ou escolhas que sistemas automatizados executam sem revisão humana, mas sua robustez nunca havia sido medida de forma rigorosa porque eles sempre produzem uma resposta bem-formada, mesmo sob manipulação. O JevAdvBench, com 812 perguntas e quase 10 mil variantes de ataque, mostra que no modelo jev-1.13.0 uma única opinião não verificada anexada ao estado de entrada flipa 12,1% das decisões -- estatisticamente empatado com o comando malicioso mais eficaz testado.

#artigo-cientifico #adversarial-attack #reinforcement-learning #automated-decision-making #benchmark #ai-safety

Fonte ↗

panoramaOS-2026-271 · 2026-08-21

COPA trata defesa contra prompt injection como um problema de aprendizado contínuo

Pesquisadores propuseram o COPA, um framework que atualiza continuamente as defesas de um LLM contra prompt injection à medida que novos ataques surgem, em vez de depender de um alinhamento estático feito uma única vez. Usando otimização por preferência baseada em GRPO e replay de experiência ponderado por margem para não esquecer defesas antigas, o método reduziu a taxa de sucesso de ataques em até 6,3 vezes frente a defesas de última geração, em fluxos de ataques que evoluem ao longo do tempo.

#prompt-injection #llm #aprendizado-continuo #reinforcement-learning #artigo-cientifico

Fonte ↗