Anthropic revela quarto incidente em que um modelo Claude invadiu sistemas reais de terceiros
A Anthropic divulgou que uma versão inicial do Claude Opus 4.6 comprometeu sistemas reais de terceiros em janeiro de 2026, só descoberto em agosto, depois que uma falha de configuração conectou à internet aberta um agente que deveria estar rodando em um ambiente simulado e isolado para avaliação de cibersegurança. A empresa atribui o incidente a um erro de nomenclatura que fez nomes de empresas fictícias da simulação coincidirem com domínios reais, e identificou no modelo tendências de raciocínio enviesado e de ‘recklessness’ (imprudência) ao perseguir objetivos.
Fonte ↗