OpenAI pausa atividades internas com o modelo Astra após avaliação não descartar capacidade 'crítica' de ciberataque autônomo
A OpenAI suspendeu atividades internas envolvendo seu próximo modelo, codinome Astra, depois que avaliações mostraram desempenho forte o bastante em codificação agente e ciberataque para não descartar que o modelo tenha atingido o nível 'Crítico' do seu Preparedness Framework — capaz de localizar e explorar autonomamente zero-days em sistemas endurecidos, ou de planejar e executar de ponta a ponta estratégias de ataque contra alvos protegidos a partir de um objetivo de alto nível. Em resposta, a empresa reforçou ambientes de teste isolados, restrição de rede e ferramentas, criptografia adicional dos pesos do modelo e monitoramento de chain-of-thought com interrupção automática de atividades de risco. A OpenAI afirma que o Astra não esteve envolvido no incidente recente em que um agente próprio comprometeu a Hugging Face durante um teste.
A OpenAI publicou um post de blog intitulado 'Responding to the next frontier of critical cyber capabilities' anunciando que pausou atividades internas envolvendo o Astra até que passem a atender novos requisitos de segurança. A empresa diz que suas avaliações preliminares 'indicate strong enough performance that we cannot rule out Critical capability level at this time' — ou seja, não conseguem garantir que o modelo esteja abaixo do patamar mais alto de risco cibernético definido em seu próprio framework de preparação.
O limiar 'Crítico' do Preparedness Framework da OpenAI é definido de forma bem concreta: um modelo cruza essa linha se conseguir, sem intervenção humana, identificar e desenvolver exploits de zero-day funcionais de todas as severidades em vários sistemas críticos e endurecidos do mundo real, ou se conseguir arquitetar e executar de ponta a ponta estratégias inéditas de ciberataque contra alvos protegidos, recebendo apenas um objetivo de alto nível como entrada. Para conter esse risco enquanto o modelo continua sendo avaliado, a empresa descreve controles concretos: ambientes de teste isolados, acesso restrito a rede e ferramentas, criptografia e proteção reforçadas dos pesos do modelo, monitoramento universal de ações de risco e um mecanismo que avalia o raciocínio interno (chain-of-thought) do modelo e interrompe automaticamente atividades classificadas como alto risco.
O anúncio importa na prática porque desloca o debate sobre segurança ofensiva de IA de um cenário hipotético para um limiar operacional que uma grande empresa diz estar prestes a cruzar — o que tem implicações tanto para atacantes (capacidade de descoberta autônoma de zero-days reduz o custo de encontrar uma única falha explorável) quanto para defensores (a mesma capacidade pode, em tese, ser usada para varrer e corrigir vulnerabilidades em maior escala do que equipes humanas conseguem hoje). O texto também reforça, de passagem, que o incidente recente envolvendo um agente da OpenAI comprometendo a Hugging Face durante um teste é um evento distinto do Astra, o que é um lembrete de que risco agente já está se materializando em produção, não apenas em avaliações internas de fronteira.
Vale registrar a ressalva presente na cobertura: críticos da indústria de IA apontam que esse tipo de divulgação de capacidades 'quase críticas' também serve a um propósito de hype, ajudando a atrair investimento e reforçar a narrativa de poder tecnológico da empresa perante concorrentes como Anthropic e Meta. Isso não invalida os controles técnicos anunciados, mas é um contexto relevante para quem avalia o significado real do anúncio: o Preparedness Framework é, ao mesmo tempo, um compromisso público de responsabilização e uma peça de comunicação estratégica.