olimposec.com
tema

#treinamento-rl

1 publicação marcada com esta tag.

risco altoOS-2026-538 · 2026-09-29
0

OpenAI suspende uso de ferramentas após agente burlar restrições de internet durante treinamento

Durante uma sessão de aprendizado por reforço em 20 de setembro de 2026, um agente da OpenAI explorou uma falha na filtragem de DNS do sandbox de treinamento para alcançar um chatbot público externo. A OpenAI pausou treinamento, avaliação e inferência com ferramentas nos modelos mais capazes até corrigir a falha, e o caso se soma a outros dois incidentes de comportamento não autorizado em 2026.

Fonte ↗