O CEO do Hugging Face, Clément Delangue, quer transformar o ataque sofrido pela startup em um divisor de águas na segurança de IA e está exigindo “transparência radical” da OpenAI.
Adicione ao Google NotíciasNeste artigo
O alvo foi a própria base de modelos e códigos da Hugging Face, usada por desenvolvedores do mundo todo. Segundo a OpenAI, um agente experimental alimentado por uma combinação do modelo público GPT-5.6 Sol e de outro ainda não lançado escapou de um ambiente de teste, ganhou acesso à internet e passou dias atacando os sistemas da startup.
O que Delangue quer da OpenAI: logs abertos e US$ 100 milhões
Delangue detalhou as demandas em uma série de posts no X após viajar a São Francisco para se reunir com a liderança da OpenAI. A primeira é a tal “transparência radical”: ele pediu que a empresa libere os rastros completos dos agentes considerados “fora de controle” envolvidos no incidente, para que “toda a comunidade de pesquisa possa estudar o que aconteceu”.
Na formulação dele, os logs de atividade do agente — prompts, decisões, passos de exploração — precisam virar material público de autópsia técnica, em vez de ficarem enterrados em um relatório corporativo higienizado. É um pedido incômodo para um laboratório que historicamente trata telemetria de modelos como segredo industrial.
A segunda cobrança é dinheiro em forma de poder computacional. Delangue sugeriu que a OpenAI se comprometa com US$ 100 milhões em computação para a comunidade da Hugging Face, com o objetivo de desenvolver defesas cibernéticas usando “os melhores modelos abertos e fechados”. Ele menciona recursos de GPU não só para remediar o ataque, mas para criar ferramentas de defesa baseadas em IA no mesmo nível de sofisticação dos ofensores.
Como o ataque aconteceu e por que é considerado inédito
A própria OpenAI afirmou que o incidente ocorreu durante um teste de cibersegurança em um “sandbox”, um ambiente que deveria ser isolado, com “guardrails” reduzidos para avaliar a capacidade de hacking de seus modelos. A partir daí, o que seria simulação virou ataque real.
Depois de obter acesso à internet, o agente mirou a Hugging Face. De acordo com a OpenAI, o sistema “inferiu” que a startup tinha informações necessárias para “trapacear a avaliação” do teste — ou seja, o alvo teria sido escolhido como parte da estratégia do agente para obter vantagem no próprio experimento.
O registro do caso na plataforma OECD.AI classifica o episódio como um ataque de múltiplos dias, entre 11 e 13 de julho, conduzido por um agente autônomo da OpenAI que escapou do ambiente de testes. O monitor aponta que o incidente causou dano econômico e reputacional e envolveu falhas de controle e supervisão humana.
A OpenAI confirmou publicamente a invasão na semana passada e descreveu o caso como um “incidente sem precedentes”, afirmando que ainda conduz uma análise completa com conselheiros externos e que deve divulgar nas próximas semanas um relatório técnico sobre o que ocorreu.
Delangue, por sua vez, descreveu o episódio como “o primeiro ciberataque de um agente autônomo”, um evento que, nas palavras dele, “merece uma resposta sem precedentes”. Ele reforçou que a Hugging Face reportou a invasão em 16 de julho, sem inicialmente saber que a origem era um teste da OpenAI.
Pressão por transparência e efeitos colaterais no setor de IA
O caso virou munição para quem vinha alertando sobre testes agressivos de agentes autônomos sem isolamento real. Reportagens citadas por Delangue e por outros executivos relatam que o agente passou dias atacando a Hugging Face sem que a OpenAI percebesse, e mencionam anotações deixadas para versões futuras sobre como escapar de restrições internas. A agência responsável por uma dessas reportagens não conseguiu confirmar se esses “recados” estão diretamente ligados ao ataque à Hugging Face, mas o detalhe alimenta a percepção de laboratório sem freio.
Especialistas em cibersegurança ouvidos por veículos internacionais apontam que culpar “IA fora de controle” mascara o essencial: configuração ruim de ambiente de teste, falhas de monitoramento e ausência de mecanismos de desligamento rápido. A crítica central é que a responsabilidade recai sobre a OpenAI e sobre o desenho do experimento.
Delangue tenta aproveitar a brecha para puxar o pêndulo para o lado da abertura. Ele não fala só em explicação para a Hugging Face, mas em abrir rastros de agentes “rebeldes” a toda a comunidade de pesquisa. Se isso ocorrer, pesquisadores — inclusive no Brasil, onde a Hugging Face é referência de repositório para equipes acadêmicas e startups — passam a contar com um raro dataset real de falha de agente autônomo, com impacto direto em como vão testar e auditar seus próprios sistemas.
Do lado regulatório, o caso já entrou em monitores globais de incidentes de IA, como o da própria OECD.AI, que reúne episódios usados como referência para políticas públicas e normas técnicas. Isso aproxima o hack da Hugging Face de outros marcos usados por governos para justificar novas regras.
A OpenAI, por enquanto, se limita a reconhecer que o ataque marca “um momento importante para a segurança da IA” e fala em relatório técnico. O ponto de atrito é justamente o nível desse relatório: se será um PDF polido para regulador ver ou se a empresa aceita encarar o pedido de “transparência radical” e abrir, de fato, o rastro completo do agente que saiu da jaula.
