A OpenAI admitiu em 25 de setembro que agentes de IA da própria empresa publicaram 53 imagens enviadas por usuários do ChatGPT em sites de hospedagem de imagens, sem que o laboratório soubesse. As fotos vieram justamente das conversas liberadas para treino, a configuração que vem ligada por padrão nas contas pessoais.
Adicione ao Google NotíciasNeste artigo
- 53 imagens em links "não listados": o que a OpenAI admitiu, e parte ainda no ar
- Da Hugging Face às fotos de usuários: como os agentes chegaram às imagens
- Por que a OpenAI diz que não consegue avisar quem foi afetado
- É seguro mandar foto no ChatGPT? Treino vem ligado nas contas Free, Plus e Pro
- Como desativar o treino do ChatGPT, e por que o polegar reabre a porta
O caso tem um mês, mas ganhou outro peso com a trend de caricatura por IA, que leva brasileiros a subir selfies no ChatGPT. Quem usa conta gratuita, Plus ou Pro e nunca mexeu nas configurações está no grupo de onde saíram as 53 imagens, e a OpenAI diz que não tem como avisar os afetados.
53 imagens em links "não listados": o que a OpenAI admitiu, e parte ainda no ar
A confissão está num post da OpenAI sobre o incidente da Hugging Face, na entrada de 25 de setembro sobre dados de treino enviados para fora da empresa. O texto é direto: "we have identified 53 instances to date where user-provided images were posted to image-hosting sites as links that weren't publicly listed" (identificamos até agora 53 casos em que imagens fornecidas por usuários foram publicadas em sites de hospedagem de imagens como links que não eram listados publicamente).
"Não listado" não quer dizer inacessível. Segundo o TechCrunch, as imagens ainda podiam ser encontradas. A OpenAI afirma ter trabalhado com os provedores de hospedagem para derrubar a maioria, mas reconhece que algumas continuam online e que a investigação segue aberta. O "até agora" do comunicado deixa espaço para o número crescer.
A empresa classificou o episódio como "not an appropriate use of this data" (um uso inapropriado desses dados) e disse que a própria política de privacidade não lista esse tipo de atividade entre os usos previstos para dados pessoais. Ficou sem resposta o básico: o que as imagens mostram, se eram fotos de pessoas reais, em quais sites foram parar e quando. A empresa também não explicou, segundo o TechCrunch, como concluiu que as imagens eram de usuários.
Da Hugging Face às fotos de usuários: como os agentes chegaram às imagens
As 53 imagens apareceram numa auditoria que a OpenAI começou depois de julho, quando agentes da empresa invadiram sistemas da Hugging Face. Desde então, a empresa revisa, mês a mês, o que seus agentes fizeram fora dos ambientes controlados durante treino e testes. Encontrou casos em que eles enviaram dados de treino e de avaliação a serviços de terceiros antes que as novas salvaguardas entrassem em vigor.
A maior parte do material vazado não era de usuários. A exceção são as conversas elegíveis para treino, que fazem parte da base de dados de treino da empresa, e é daí que vêm as 53 imagens. Os responsáveis, segundo a empresa, foram modelos internos de pesquisa em treinamento por aprendizado por reforço.
O episódio está longe de ser isolado. A OpenAI também relatou outro caso, em que um agente usou consultas DNS para escapar do sandbox onde deveria ficar contido. Na semana do anúncio, o primeiro-ministro australiano Anthony Albanese disse que agentes da OpenAI invadiram bases do sistema de saúde nacional da Austrália; o TechCrunch lista o caso entre vários incidentes do ano ligados aos programas de treino da empresa. A OpenAI diz ter contatado dezenas de vítimas, entre governos, universidades e órgãos públicos, e adota desde 16 de setembro uma estrutura própria para divulgar incidentes de comportamento indesejado.
Por que a OpenAI diz que não consegue avisar quem foi afetado
Antes de usar o conteúdo de uma conversa no treino, a OpenAI separa o material das informações da conta e roda, nas palavras da empresa, "a version of the OpenAI Privacy Filter to redact personal details such as names, contact information, and account numbers" (uma versão do OpenAI Privacy Filter para ocultar dados pessoais como nomes, contatos e números de conta).
Esse mesmo processo é o argumento para não notificar ninguém: "Our technical approach and privacy policy prevent us from reassociating this data with the original user account" (nossa abordagem técnica e nossa política de privacidade nos impedem de reassociar esses dados à conta original do usuário). Na prática, ninguém consegue saber se uma foto sua estava entre as 53.
A OpenAI não diz o que o filtro faz com um rosto, um documento de identidade ou uma placa de carro dentro de uma foto. A anonimização corta o elo entre a imagem e a conta, mas isso não responde se o rosto continua na imagem.
É seguro mandar foto no ChatGPT? Treino vem ligado nas contas Free, Plus e Pro
Nas contas pessoais Free, Plus e Pro, a opção "Melhore o modelo para todos" vem ativada de fábrica; o TechCrunch resume que o consumidor está dentro do treino a menos que desative. Nas empresas a lógica é a inversa. Workspaces Business, Enterprise e Edu e a API ficam fora do treino, a menos que o administrador o ligue, e por isso não entraram no caso. Também ficaram de fora as conversas com a opção desligada e os chats temporários.
Segundo a política de privacidade da OpenAI citada pelo How-To Geek, o treino pode usar "files, images, audio and video, Sora characters, and data from connected services". A foto carrega mais do que o rosto: os metadados EXIF guardam data, hora, modelo do aparelho e, muitas vezes, as coordenadas de GPS de onde a imagem foi feita. Parte das conversas também pode ser lida por revisores humanos autorizados.
A trend atual repete a onda de selfies no estilo Studio Ghibli de abril de 2025. Não há confirmação pública de que a imagem gerada a partir de uma foto siga exatamente as mesmas regras de treino da original.
Como desativar o treino do ChatGPT, e por que o polegar reabre a porta
A chave fica em Configurações › Controle de dados › "Melhore o modelo para todos". O efeito tem limite. A Central de Ajuda da OpenAI diz que, com a opção desligada, "your new conversations won't be used to train OpenAI models": vale para conversas novas, e o que já entrou no treino permanece lá. Com treino desligado, chat apagado ou chat temporário, os dados ainda ficam guardados por até 30 dias.
A própria OpenAI aponta a principal pegadinha: "If you choose to provide feedback, the entire conversation associated with that feedback may be used to train our models". Um polegar numa resposta torna a conversa inteira elegível para treino, mesmo com a opção desligada. Para foto de documento ou de criança, a saída menos arriscada é o chat temporário, sem avaliar a resposta: segundo a Central de Ajuda, ele não aparece no histórico, não cria memórias e não alimenta o treino.
Há ainda uma camada que nenhuma configuração resolve. Por causa do processo do New York Times contra a OpenAI, dados enviados entre abril e setembro de 2025 podem estar retidos para uso judicial, inclusive chats temporários ou apagados, segundo levantamento do How-To Geek de abril deste ano. A situação atual dessa retenção não foi confirmada. E a OpenAI ainda não disse quantas das 53 imagens continuam no ar.
