▲
- A Meta está processando a Joy Timeline HK Limited por criar aplicativos que geram nudes falsos usando inteligência artificial.
- Você pode estar mais protegido contra conteúdos não consensuais e anúncios enganosos nas redes sociais.
- Essa ação pode reduzir a disseminação de imagens falsas e proteger vítimas de danos emocionais e sociais.
- A Meta também está compartilhando dados com outras empresas para fortalecer a segurança online.
A Meta, empresa responsável por plataformas como Instagram e WhatsApp, está intensificando a luta contra aplicativos que criam montagens com inteligência artificial (IA) de pessoas. A empresa iniciou uma ação judicial contra a Joy Timeline HK Limited, sediada em Hong Kong, cujos aplicativos geram conteúdo sexual não consensual a partir de fotos comuns, simulando a aparência de indivíduos.
Meta processa empresa por uso indevido de IA
A Meta informou que a ação judicial é resultado de um longo embate com desenvolvedores dessas ferramentas. A política da empresa já proíbe a publicação desse tipo de conteúdo ou a promoção de aplicativos que criam deepfakes ou montagens que removem digitalmente as roupas de pessoas em fotos.
As empresas estavam burlando as verificações e continuavam a exibir anúncios nas plataformas, alterando textos e imagens ou utilizando domínios recém-criados. A Meta agora busca impedir judicialmente a atuação desses serviços.
A Meta planeja compartilhar as URLs identificadas como parte dessas ferramentas com outras empresas que integram o Tech Coalition’s Lantern, um consórcio de proteção infantil na internet. Até o momento, mais de 3 mil endereços e quatro redes coordenadas que tentavam publicar esses anúncios foram identificados e desativados.
Crime e disseminação de aplicativos nudify
Os aplicativos conhecidos como “nudificadores“, que têm como objetivo principal “tirar a roupa” de alguém digitalmente, estão amplamente difundidos em fóruns e lojas de aplicativos. A prática de manipular fotos para criar imagens sexualmente explícitas é considerada crime em muitos lugares.
Leia também:
As vítimas dessas montagens enfrentam impactos emocionais significativos, com consequências em suas vidas pessoais e profissionais, até que a situação seja resolvida. No Brasil, a pena para crimes contra mulheres que envolvem o uso de IA foi aumentada, podendo chegar a três anos de prisão. Nos Estados Unidos, uma nova lei também foi aprovada para combater e facilitar a remoção desses conteúdos das plataformas.
Além das imagens de teor sexual, anúncios na Meta também oferecem cursos que ensinam a criar montagens com IA para vender produtos ou disseminar informações falsas.
O combate às montagens com inteligência artificial (IA)
A Meta está tomando medidas enérgicas contra a proliferação de aplicativos que permitem a criação de montagens com inteligência artificial (IA) de caráter sexual. A empresa iniciou um processo legal em Hong Kong contra a Joy Timeline HK Limited, responsável por aplicativos que criam conteúdo sexualmente explícito e não consensual a partir de fotos dos usuários. Esses aplicativos, também conhecidos como nudificadores, manipulam imagens para simular nudez, prática que causa grande impacto emocional nas vítimas.
A empresa também está atenta aos anúncios que promovem cursos para a criação dessas montagens, utilizados para fins fraudulentos e disseminação de notícias falsas. A Meta já proíbe a publicação desse tipo de conteúdo e a promoção desses aplicativos em suas redes sociais, mas as empresas encontram formas de burlar o sistema de verificação. Agora, a Meta busca fortalecer suas ações com o apoio da Justiça.
A Meta, atenta ao crescimento de golpes e crimes envolvendo o uso de inteligência artificial, vai compartilhar as URLs identificadas com outras empresas do Tech Coalition’s Lantern, consórcio que visa proteger crianças na internet. A empresa já identificou e desativou mais de 3 mil endereços e quatro redes que tentavam publicar esses anúncios.
Medidas legais e proteção às vítimas de montagens com inteligência artificial
A Meta tem se posicionado de forma rigorosa contra a disseminação de conteúdos gerados por IA que possam causar danos às pessoas. A ação judicial movida contra a Joy Timeline HK Limited é um passo importante para responsabilizar os desenvolvedores desses aplicativos. A empresa busca impedir que esses serviços continuem burlando as políticas de segurança e promovendo a criação de imagens falsas e sexualmente explícitas.
Além das medidas legais, a Meta está investindo em tecnologia para identificar e remover esse tipo de conteúdo de suas plataformas. O compartilhamento de informações com o Tech Coalition’s Lantern é uma forma de unir forças com outras empresas do setor para combater a exploração infantil e a disseminação de imagens falsas na internet.
A preocupação com os impactos emocionais e sociais causados por essas montagens tem levado a mudanças na legislação em diversos países. No Brasil, a pena para crimes contra mulheres que envolvem o uso de IA foi aumentada, demonstrando a crescente preocupação com essa questão. Nos Estados Unidos, uma nova lei foi aprovada para facilitar a remoção desses conteúdos das plataformas, mostrando um esforço global para combater essa prática.
A disseminação de informações falsas é um problema crescente na internet. Acompanhe as 10 notícias de tecnologia para você começar o dia (13/06).
Este conteúdo foi auxiliado por Inteligência Artificial, mas escrito e revisado por um humano.
Via TecMundo
