Aplicativos que usam vídeos falsos de beijos gerados por IA inundaram o Instagram e o TikTok. Com esses programas, fotos de duas pessoas quaisquer podem ser enviadas para a IA criar um vídeo de um beijo entre elas, mesmo sem consentimento.
Semelhantes aos aplicativos que geram pornografia não consensual, essas ferramentas criam vídeos realistas de ações não realizadas. Essa facilidade levanta preocupações sobre a banalização da criação de deepfakes maliciosas.
Aplicativos de Beijos com IA e Seus Perigos
Apesar dos anúncios não serem sexualmente explícitos, como a onda de pornografia gerada por IA que invadiu plataformas como Instagram, Reddit e YouTube, eles podem ser igualmente perigosos, segundo Haley McNamara, do Centro Nacional de Exploração Sexual, em entrevista à Forbes.
“Não precisa ser explícito para ser uma violação”, disse McNamara. “Se uma ação sem consentimento é violação no mundo real, no online também é”. Vídeos gerados por IA de pessoas se beijando ou abraçando já circulam nas redes sociais.
Um exemplo é o vídeo de Taylor Swift abraçando Kim Jong Un, com cerca de 30 milhões de visualizações no Instagram. No final de dezembro, um vídeo de Elon Musk e Giorgia Meloni se beijando viralizou no X (antigo Twitter).
Leia também:
Além dos vídeos de beijos com IA, a Forbes também relatou um aumento de vídeos falsos com outros tipos de interação, como abraços, com mais de 1.200 anúncios exibidos pela Meta para aplicativos de “abraço com IA”, mais de 300 ainda ativos.
Mais de Mil Anúncios Divulgados
A Meta veiculou mais de 2.500 anúncios desses aplicativos no Instagram e Facebook, com cerca de 1.000 ainda ativos. O TikTok exibiu aproximadamente 1.000 campanhas, atingindo milhões em países europeus, segundo dados da plataforma. Celebridades como Scarlett Johansson, Emma Watson e Gal Gadot aparecem em algumas propagandas.
Outros vídeos mostram beijos entre pessoas desconhecidas, com frases como “beije seu ex” ou “beije sua paixão”. Não há confirmação se essas pessoas são reais ou criações da IA. A Meta também promove aplicativos de “abraço com IA”, com anúncios mostrando crianças abraçando personagens como Dora Aventureira e Mickey Mouse.
Alguns anúncios prometem aos pais que a IA pode fazer seus filhos “abraçarem os avós que nunca conheceram”, como no caso de uma menina abraçando um homem mais velho. Vídeos de beijos e abraços gerados por IA já circulam pelas redes sociais, com alguns exemplos notáveis.
O Futurism foi o primeiro a reportar a disseminação desses anúncios nas redes sociais. O aumento de deepfakes levanta questões sobre o futuro da internet, como discutido no artigo Construindo uma IA Responsável.
Posicionamento da Meta e do TikTok
Daniel Roberts, porta-voz da Meta, afirmou que esses anúncios não infringem suas políticas. Nudes e conteúdo sexualmente sugestivo são proibidos, e apesar da empresa não permitir anúncios que promovam atos sexuais não consensuais, vídeos de beijos e abraços são permitidos.
Após contato da Forbes, o TikTok removeu os anúncios por violarem suas políticas. A plataforma exige consentimento de figuras públicas e privadas representadas em anúncios, mesmo gerados por IA, segundo Ariane de Selliers, porta-voz do TikTok.
O debate sobre o uso de IA em vídeos gera discussões éticas, como abordado em Brady Corbet comenta as críticas à inteligência artificial. A preocupação com o uso indevido da tecnologia aumenta com casos como o de um pedófilo que usou a Stable Difusion para criar imagens ilegais de crianças.
É importante que as plataformas de redes sociais monitorem e atualizem suas políticas de anúncios para garantir a segurança e o bem-estar dos usuários. A disseminação de deepfakes levanta questões sobre o futuro da internet e o papel da IA na sociedade.
Quem São os Anunciantes?
As empresas responsáveis por esses geradores de vídeo têm sede fora dos EUA, em países como Emirados Árabes Unidos, Itália e China, segundo seus websites. Os aplicativos estão disponíveis na App Store da Apple e Play Store do Google, acumulando milhões de downloads.
Aparentemente, a função “beijo com IA” faz parte de um conjunto maior de recursos de edição de fotos baseados em IA, como melhorar fotos antigas, transformar fotos em vídeos e prever a aparência dos filhos de um casal. Apple e Google não comentaram o assunto. Novos aplicativos de edição de vídeo surgem constantemente, impulsionados pelo avanço da IA.
McNamara alerta que esses aplicativos aparentemente inofensivos podem abrir caminho para ferramentas mais abusivas. A disseminação de deepfakes ilustra uma preocupante normalização dessa tecnologia, e seu uso banalizado pode ter consequências graves. O governo dos EUA já alertou sobre os perigos do uso de IA em contextos sensíveis, como ações militares.
Alice Siregar, analista de IA, ficou alarmada com o uso antiético da tecnologia ao ver o aumento de anúncios desses aplicativos no TikTok. Ela descreveu a experiência como “incrivelmente assustadora”, destacando a necessidade de maior conscientização sobre os riscos dos deepfakes.
Este conteúdo foi auxiliado por Inteligência Artificial, mas escrito e revisado por um humano.
Via Forbes Brasil
