Estudo do MIT diz que, em muitos casos, a arte de IA não tem autor rastreável

Um novo estudo do MIT crava que, em muitos modelos de imagem treinados com grandes volumes de dados, a pergunta “de qual artista isso foi copiado?” simplesmente não tem resposta útil.

Pesquisadores do MIT CSAIL descrevem um fenômeno que chamam de attribution decay: à medida que o conjunto de treino cresce, a influência de qualquer imagem específica sobre uma saída gerada cai tanto que fica, na prática, irrecuperável. Nos cenários testados, remover uma única obra, todas as imagens de um artista ou todas as fotos de uma pessoa quase não alterou o resultado final do gerador.

O que é attribution decay e como o MIT mediu isso?

O time foi atrás da pergunta mais incômoda do debate sobre IA generativa: o que um modelo teria produzido se nunca tivesse visto uma certa imagem? Em tese, seria preciso treinar o modelo do zero, sem aquele item, milhões de vezes para observar todas as alternativas possíveis. Ou seja, operacionalmente inviável.

Para sair desse beco, eles criaram uma arquitetura própria, chamada diffusion ensemble. Em vez de um modelo único monolítico, o sistema junta vários componentes menores, cada um treinado em um pedaço diferente do dataset. Quando os pesquisadores querem medir o efeito de uma imagem específica, desligam apenas os componentes que a viram. Não entra aproximação estatística nessa etapa: o que sobra é um modelo contrafactual explícito, que representa o “mundo onde aquela imagem nunca existiu” para o sistema.

Esses ensembles foram treinados e comparados com 24 modelos de difusão convencionais usando exatamente os mesmos dados. As métricas de qualidade de imagem ficaram no mesmo patamar em relação aos modelos tradicionais. E um detalhe chamou atenção do grupo: quanto mais dados de treino eram incluídos, melhor os ensembles se seguraram frente aos modelos padrão, o que sugere que, em certos regimes de escala, essa abordagem chega a ser mais eficiente em dados.

Quando remover imagens não muda nada, quem é o autor?

Com a técnica de “cirurgia” em funcionamento, o grupo montou o que chama de “universo contrafactual” de uma imagem gerada: um conjunto de versões alternativas dela, cada uma criada após remover um item diferente do conjunto de treino. A distância entre a imagem original e a mais diferente dessas alternativas, o chamado counterfactual radius, mede o impacto máximo que um único exemplo de treino poderia ter tido sobre aquele output.

Os pesquisadores treinaram 24 ensembles com conjuntos variando de 256 até mais de 160 mil imagens, usando sete coleções públicas como CIFAR-10, CelebA, MetFaces e ArtBench. O padrão se repetiu nessas bases: quanto maior o dataset, menor o raio contrafactual, seguindo uma lei de potência inversa. Em números concretos: o efeito máximo de qualquer imagem individual despenca com o crescimento do conjunto, tanto em medidas pixel a pixel quanto em métricas semânticas de similaridade.

O grupo ainda tentou quebrar o próprio resultado. Repetiu o experimento por brute force em menor escala, com 1.282 modelos treinados separadamente, e a mesma decadência apareceu. Fixou a fração de dados removidos, ajustou número de épocas de treino, trocou o tipo de modelo (incluindo variantes condicionadas a texto e a classes) e aplicou quatro métricas distintas de similaridade entre imagens produzidas. Em todos esses cenários, a curva de queda permaneceu. A conclusão dos autores é direta: se tirar um dado não altera o output de forma mensurável, fica difícil sustentar que aquele dado é responsável por aquela imagem.

O que isso mexe em copyright, privacidade e regulação de IA?

O trabalho mira uma zona cinzenta jurídica: se o modelo quase nunca depende de uma obra específica em escala grande, que tipo de derivação existe entre a imagem de saída e o quadro, foto ou ilustração que entrou no treino? Um dos autores afirma que, nesse regime de dados, os modelos ficam mais próximos do que chamaríamos de “criativos”, no sentido de gerar saídas novas, do que de simples copiadores de obras individuais.

Essa leitura derrama efeitos diretos sobre disputas de direitos autorais, acordos de licenciamento e regras de remuneração. Se o output não é atribuível a nenhuma obra individual “comprovável” por métodos exatos, modelos treinados em massa tendem a se encaixar melhor em argumentos de uso justo ou de obra nova perante tribunais. Ao mesmo tempo, os pesquisadores defendem que a própria indústria passa a carregar uma obrigação técnica: adotar arquiteturas que garantam saídas inatribuíveis, caso queiram sustentar que não geram derivados diretos de pessoas ou itens específicos.

O estudo olha só para modelos de difusão, hoje padrão em geração de imagem, vídeo e em aplicações científicas como modelagem de proteínas e descoberta de terapias. Fica em aberto se a mesma decadência de atribuição vale para grandes modelos de linguagem, que estão no centro dos processos de copyright mais ruidosos envolvendo texto e código. Se a resposta for negativa, a indústria de IA vai ter de lidar com dois regimes técnicos e jurídicos distintos para outputs gerados por algoritmos treinados em domínios diferentes.

Nesse cenário, pesquisadores e empresas passam a ter em mãos uma ferramenta concreta para testar quanto um modelo “lembra” de indivíduos e obras específicas, com medições diretamente ligadas a dados de treino reais e outputs gerados em larga escala.