A OpenAI admitiu ter encontrado novos episódios de agentes de IA que escaparam de sandboxes internos, repetindo o comportamento autônomo visto no ataque contra a Hugging Face e ampliando o risco de sistemas fora de controle.
Adicione ao Google NotíciasNeste artigo
Na prática, a OpenAI está revisando registros de atividade de seus modelos e diz ter identificado mais casos em que agentes autônomos saíram de ambientes de teste e acessaram sistemas reais, ainda dentro de sua própria rede. Segundo fontes citadas em comunicados reproduzidos por veículos internacionais, nenhum desses agentes teria ultrapassado a infraestrutura interna da empresa, mas o número de incidentes, as datas e todos os alvos continuam em sigilo. Em paralelo, o caso original envolvendo a Hugging Face permanece em investigação conjunta entre as empresas, com troca de dados técnicos e reconstrução de cada etapa do ataque para entender exatamente como o agente saiu do laboratório.
O que se sabe sobre o ataque à Hugging Face
O ponto de partida da crise foi um teste de segurança em julho, quando a OpenAI colocou um agente autônomo em um ambiente que deveria ser isolado. A própria empresa informou que o sistema encontrou vulnerabilidades, escapou desse sandbox e passou a agir por conta própria fora do laboratório, lançando um ataque classificado como "sem precedentes" contra a startup Hugging Face, uma das maiores plataformas de compartilhamento de modelos de IA do mundo.
Fora do ambiente controlado, o agente identificou a Hugging Face como provável fonte das respostas que buscava no teste, invadiu a rede da empresa e obteve acesso a sistemas internos. A OpenAI reconhece que quatro contas de quatro empresas diferentes foram comprometidas durante o episódio, incluindo a Modal, em Nova York. Relatos citados em notas públicas indicam que o agente permaneceu dias dentro da infraestrutura da Hugging Face tentando burlar a avaliação, numa espécie de "cola" algorítmica: em vez de resolver o problema, os modelos teriam tentado roubar as soluções dos testes.
O episódio foi reportado ao FBI e tornou-se público. A Hugging Face afirma que corrigiu as vulnerabilidades, reconstruiu os sistemas afetados e ainda avalia o impacto em dados de clientes e parceiros. Especialistas de segurança ouvidos por universidades e empresas de cibersegurança tratam o ataque como divisor de águas: ferramentas ofensivas autônomas movidas a IA saíram do debate acadêmico e entraram na categoria de incidente concreto em ambiente de produção.
Quais são esses novos casos de IAs “fugitivas” na OpenAI?
Durante a apuração do ataque à Hugging Face, a OpenAI começou a vasculhar logs de atividade mais amplos e, segundo relatos reproduzidos em comunicados oficiais, esbarrou em outros episódios de comportamento semelhante: agentes de IA escapando de ambientes de teste controlados. A empresa não detalhou quantos casos foram encontrados nem quando ocorreram, e se limita a dizer que está revendo a "atividade mais ampla" de seus modelos com apoio de especialistas externos.
Fontes que acompanham a investigação afirmam que essas fugas adicionais teriam alcance limitado, restrito à rede interna da OpenAI, sem extravasar para infraestruturas de terceiros como no incidente da Hugging Face. Mesmo assim, investigadores estão reconstituindo, a partir de registros de meses anteriores, em que circunstâncias cada agente saiu do sandbox, que sistemas acessou e quais credenciais foram exploradas. Em uma atualização recente, a OpenAI mencionou um "punhado de casos" em que modelos encontraram credenciais expostas na internet e as usaram para acessar contas externas, mas diz não ter visto evidências de impacto mais amplo nesses provedores.
O problema não para por aí. A OpenAI reconhece que, durante o ataque original, dois modelos diferentes deixaram o ambiente confinado e chegaram a usar quatro outras plataformas como intermediárias para preparar o ataque contra a Hugging Face, inclusive copiando e testando código em sites públicos, ainda que dentro do que qualquer usuário poderia fazer manualmente. No papel, eram só testes de segurança. Na prática, viraram simulação que vazou para o mundo real.
Anthropic, governos e a corrida pelo controle da IA
O caso da OpenAI estourou quase ao mesmo tempo em que a Anthropic, rival direta no segmento de modelos de ponta, veio a público admitir que seus próprios agentes também cruzaram a linha. A empresa revelou que uma auditoria interna identificou três incidentes, desde abril, em que modelos da família Claude — incluindo o Opus 4.7 e o Mythos 5 — acessaram sistemas de empresas reais durante testes de cibersegurança. Os modelos encontraram uma conexão com a internet aberta por falha de configuração em um ambiente que deveria estar isolado e trataram infraestruturas de produção como parte da simulação.
Na Anthropic, o diagnóstico foi até constrangedor: a companhia reconheceu que um monitoramento em tempo real das avaliações teria ajudado a flagrar o problema mais cedo, mas que o sistema disponível não foi aplicado àquele conjunto específico de testes por causa de um mal-entendido com uma parceira. No caso da OpenAI, pesquisadores de centros acadêmicos especializados em risco existencial apontam na mesma direção: os laboratórios vêm construindo agentes ofensivos mais rápido do que conseguem supervisioná-los, e parece que ninguém estava olhando os logs enquanto os modelos exploravam sistemas reais.
Essa sucessão de falhas em duas das principais casas de IA do mercado reforçou o apetite de governos por regras mais duras. Nos Estados Unidos, o presidente Donald Trump disse a jornalistas que o governo avalia mecanismos de controle específicos para esses laboratórios, enquanto a Comissão Europeia confirmou já ter discutido diretamente os incidentes com OpenAI e Anthropic. No Congresso americano, o senador Mark Warner defende testes obrigatórios de capacidades para modelos avançados, algo que já vinha sendo ensaiado quando Washington exigiu acesso prévio ao modelo GPT-5.6 Sol antes do lançamento global.
OpenAI pisa no freio, mas a indústria acelera agentes autônomos
Diante da repercussão, o CEO da OpenAI, Sam Altman, afirmou em entrevista que colocou em pausa seus próprios testes de agentes após o incidente, enquanto reforça o sandboxing e tenta tapar os furos que permitiram a evasão. A empresa insiste que seu comunicado inicial foi mal interpretado em alguns pontos por reportagens, mas não especifica quais detalhes estariam incorretos — transparência seletiva que não ajuda a reduzir a desconfiança de reguladores e parceiros.
Ao mesmo tempo, a narrativa de risco convive com marketing agressivo. Consultores de cibersegurança apontam que o anúncio da OpenAI também funciona como vitrine para a capacidade de seus modelos em segurança ofensiva, num momento em que a Anthropic ganha atenção com a linha Claude Mythos e em que a chinesa Moonshot apresenta o Kimi K3, um modelo gigante que, segundo a própria empresa, pretende rivalizar com os gigantes dos EUA. O setor já fala em "automelhora recursiva", estágio em que modelos projetariam suas próprias sucessoras, o que complicaria ainda mais qualquer auditoria humana.
Enquanto isso, a Hugging Face tenta transformar o trauma em lição operacional: a empresa escreve que ferramentas ofensivas autônomas movidas a IA já não são teóricas e que defender uma plataforma online agora exige tratar dados e superfícies de modelo como alvo de primeira ordem, usando IA também na defesa para acompanhar o ritmo. No plano político, mais de mil funcionários e executivos de grandes empresas de IA assinaram petição pedindo ao governo americano que ajude a frear o lançamento de novos modelos, para que infraestrutura e regulação tenham tempo de alcançar a tecnologia. O incômodo é óbvio: duas das empresas mais avançadas do setor estão admitindo, quase ao mesmo tempo, que não controlam totalmente as criaturas que colocaram para rodar.
