Vídeos racistas gerados por IA atingem milhões de visualizações no TikTok

Vídeos com conteúdo discriminatório, que parecem ser gerados por inteligência artificial (IA), estão circulando no TikTok. Esses materiais desrespeitam as regras da plataforma e já acumulam milhões de visualizações. A denúncia foi feita na última terça-feira (1º) pela organização sem fins lucrativos Media Matters. É importante notar que esses mesmos vídeos também apareceram em outras plataformas digitais.

O relatório do Media Matters aponta que os vídeos foram criados usando o Veo 3, uma ferramenta do Google lançada recentemente. O Veo 3 chamou a atenção por sua capacidade de gerar vídeos com um alto nível de realismo. As gravações em questão têm até oito segundos de duração, que é o limite da ferramenta, e algumas chegam a mostrar a marca d’água do modelo de IA usado na criação.

Essa tecnologia de vídeos com IA, apesar de suas capacidades avançadas, está sendo usada para espalhar mensagens problemáticas. A facilidade e a rapidez com que esses conteúdos são produzidos e disseminados levantam preocupações significativas sobre o controle e a moderação de plataformas online. Mesmo com políticas claras, a proliferação desses materiais indica um desafio contínuo para as empresas.

Vídeos de IA Discriminatórios: O Conteúdo Preocupante

A investigação da Media Matters revelou uma série de vídeos gerados por IA que se tornaram virais no TikTok. Muitos desses vídeos têm como alvo principal pessoas negras. As representações mostram indivíduos negros de forma estereotipada, como criminosos, pais ausentes ou até mesmo macacos, reforçando preconceitos racistas antigos e problemáticos.

Em uma das gravações identificadas, macacos são vistos cometendo ações ilícitas e são chamados de “suspeitos de sempre”. Em outro vídeo, um carro dirigido por um primata é perseguido pela polícia até sofrer um acidente. Há também um vídeo muito acessado que associa macacos a melancias, um símbolo de racismo usado para ofender a população negra nos Estados Unidos.

Os conteúdos discriminatórios não se limitam a um único grupo. Pessoas de origem asiática e judias também são alvo desses vídeos feitos pela IA do Google. Em algumas dessas produções, pessoas que parecem ser do sul da Ásia são retratadas como sujas, preparando comida com os pés ou comendo em locais infestados por ratos.

Outros exemplos incluem vídeos de judeus ortodoxos descendo uma colina em busca de um pedaço de ouro. Além disso, foram encontrados materiais que fazem referência a campos de concentração nazistas e à Ku Klux Klan, mostrando-a perseguindo uma pessoa negra. Esses exemplos destacam a gravidade e o alcance dos temas abordados nos vídeos.

Ainda foram identificados vídeos falsos direcionados a imigrantes, especialmente aqueles que falam espanhol, e também contra os manifestantes que os defendem. Várias dessas gravações, criadas no Veo 3, sugerem que os manifestantes deveriam ser atropelados, e esses vídeos também alcançaram centenas de milhares de visualizações. A capacidade da IA de gerar cenários tão específicos e ofensivos é alarmante.

A Media Matters reforça que esses materiais violam as políticas de uso do TikTok, que proíbem a disseminação de discursos de ódio e comportamentos odiosos. As regras do aplicativo são claras: o algoritmo não deve recomendar conteúdos que apresentem estereótipos negativos sobre qualquer pessoa ou grupo com atributos protegidos. Isso mostra uma falha na aplicação das normas.

O Google também possui suas próprias diretrizes para o Veo 3, que visam bloquear “solicitações e resultados prejudiciais” na geração de clipes. No entanto, o relatório aponta que essas regras não estão sendo seguidas pelas plataformas, permitindo que a IA seja usada sem controle para a criação e distribuição desses materiais problemáticos. Há um claro descompasso entre as políticas e a prática.

Vídeos Preocupantes em Outras Plataformas

A investigação não encontrou os vídeos apenas no TikTok. Parte desse conteúdo foi visto também no YouTube, conforme informações do The Verge. Embora no YouTube eles tivessem um número menor de visualizações, a presença ainda é um indicativo da disseminação multiplataforma. No Instagram, a situação é diferente: a Wired encontrou vídeos com milhões de visualizações, similar ao TikTok.

Em resposta ao The Verge, Ariane de Selliers, porta-voz do TikTok, afirmou que a rede social tem reforçado a aplicação de seus termos de uso contra discursos de ódio. Ela também mencionou que algumas das contas identificadas como responsáveis pelos vídeos foram banidas do aplicativo. A plataforma está agindo, mas a dimensão do problema é grande.

O Google foi procurado pela publicação para comentar o uso do Veo 3 na criação dos vídeos com conteúdo discriminatório, mas não se manifestou. A Meta, responsável pelo Instagram, também foi questionada sobre a disseminação desses materiais em sua plataforma, mas até o momento não respondeu. A ausência de um posicionamento das empresas geradoras e hospedeiras da tecnologia é um ponto a ser observado.

A continuidade da circulação desses conteúdos levanta questões importantes sobre a responsabilidade das plataformas e dos desenvolvedores de IA na moderação e prevenção do uso indevido de suas ferramentas. A rápida evolução das tecnologias de IA exige um acompanhamento constante e aprimoramento das políticas de segurança para evitar a proliferação de discursos de ódio e desinformação, especialmente em plataformas com grande alcance, como os Shorts do YouTube, onde o vídeo original da notícia estava incorporado.

Este conteúdo foi auxiliado por Inteligência Artificial, mas escrito e revisado por um humano.