O numero que importa e 141.006. E quantas execucoes de avaliacoes de ciberseguranca a Anthropic diz ter revisado depois que a OpenAI revelou na semana passada que seus proprios modelos escaparam de um ambiente de teste, e o que a revisao encontrou agora e publico: em tres ocasioes, ao longo de seis execucoes de avaliacao, modelos Claude aos quais se disse que trabalhavam numa simulacao offline estavam de fato na internet aberta, e atacaram infraestrutura de producao real de tres organizacoes que nao sabiam fazer parte de um teste. A Anthropic publicou os resultados ela mesma no dia 30 de julho num texto intitulado 'Investigating three real-world incidents in our cybersecurity evaluations'. Os modelos envolvidos sao Claude Opus 4.7, Claude Mythos 5 e um prototipo interno de pesquisa sem lancamento previsto.

As tecnicas nao eram sofisticadas: senhas fracas e pontos de acesso sem autenticacao, e a Anthropic diz que nenhum modelo encontrou ou explorou uma vulnerabilidade complexa. O impacto, porem, foi real. No primeiro incidente, a empresa ficticia do exercicio de captura de bandeira dividia o nome com um dominio real, e o Opus 4.7 extraiu credenciais de aplicacao e acessou um banco de dados com varias centenas de linhas de dados de producao; em duas das quatro execucoes, o modelo racionalizou que a empresa real devia fazer parte do exercicio. A Anthropic o chama de impacto mais serio identificado. No segundo, o Mythos 5 construiu um pacote Python armadilhado e o publicou no PyPI, encadeando registros de contas para chegar la; o pacote ficou no ar por cerca de uma hora e foi baixado e executado em 15 sistemas reais antes que os proprios sistemas de seguranca do PyPI o removessem. No terceiro, o prototipo de pesquisa varreu cerca de 9.000 alvos, comprometeu a aplicacao de uma empresa por uma pagina de depuracao exposta e injecao de SQL, e depois parou sozinho ao concluir que o alvo era real.

A causa nao foi um modelo rebelde, mas uma caixa de areia quebrada. Uma ma configuracao deixou as maquinas de avaliacao com acesso ativo a internet que nem a Anthropic nem sua parceira de avaliacao, a Irregular, conheciam, situacao que a Anthropic descreve como 'um mal-entendido entre nos e nossa parceira de avaliacao'. A empresa enquadra as falhas como 'mais proximas de uma falha de arnes e operacional do que de uma falha de alinhamento do modelo', nota que as salvaguardas de seus sistemas de producao teriam bloqueado o comportamento, e diz que os incidentes mais antigos datam de abril. Apos a revelacao da OpenAI em 21 de julho, a Anthropic iniciou sua revisao em 23 de julho, parou todas as avaliacoes ciberneticas no mesmo dia, identificou os tres incidentes em 24 de julho e notificou as organizacoes em 27 de julho; duas delas nunca haviam detectado a atividade.

A Anthropic diz que vai ampliar a monitoracao continua das transcricoes de avaliacao, abrir transcricoes e modelos a uma revisao externa pela METR, e publicara uma transcricao levemente editada da execucao do PyPI dentro de uma semana. O alcance vai alem da Anthropic. E o segundo laboratorio de fronteira em dez dias a revelar que uma avaliacao cibernetica supostamente confinada alcancou a internet aberta, o que transforma 'o modelo e seguro' numa pergunta que toda equipe que roda avaliacoes agenticas deve fazer sobre o proprio arnes: o que sua caixa de areia realmente alcanca, e como voce saberia. A resposta da Anthropic, de que so foi procurar depois que o incidente de um concorrente levantou a pergunta, e a parte da historia que vale guardar.