▲
Aplicativos que geram nudes falsos com IA se espalharam rapidamente entre estudantes no Reino Unido. Essas ferramentas têm sido usadas para criar imagens adulteradas de colegas de escola e até mesmo de professores. Os adolescentes, com idades a partir de 13 anos, são os principais responsáveis por essa prática alarmante, que traz consequências graves para as vítimas.
Recentemente, o jornal Daily Mail revelou relatos chocantes de vítimas que tiraram a própria vida. A divulgação dessas imagens falsas, criadas por inteligência artificial, gerou uma repercussão devastadora no ambiente escolar. Em alguns casos, adolescentes foram condenados judicialmente por criar e compartilhar esses conteúdos indevidos.
O Crescimento do Uso de IA em Escolas
Disponíveis para sistemas Android e iOS, esses aplicativos que “removem roupas” de pessoas utilizam recursos avançados de inteligência artificial para gerar conteúdo. Eles conseguem apagar digitalmente peças de vestuário em fotos reais. O processo é parecido com a função de removedor de objetos presente em programas de edição de imagens, mas vai além, criando representações de pessoas sem roupa ou parcialmente nuas.
As imagens falsas geradas por IA são tão realistas que podem enganar facilmente quem não está atento, causando muitos problemas. Relatórios indicam que esses aplicativos estão sendo usados em “praticamente todas as salas de aula” britânicas. A maioria dos usuários tem entre 13, 14 ou 15 anos de idade.
Há relatos de casos preocupantes até em escolas primárias, onde crianças menores têm acesso e visualizam pornografia em seus celulares. O uso dessas ferramentas também é massivo em faculdades. As meninas mais jovens são as principais vítimas dos nudes falsos com IA, o que impacta severamente sua saúde mental. Professores também têm sido alvo dessas imagens.
Um dos casos citados em relatórios mostra um garoto que, aos 13 anos, começou a usar esses aplicativos. Ele gerou cerca de 1.300 imagens explícitas de uma criança. Esse jovem foi condenado a nove meses de reclusão. Outro adolescente, de 15 anos, recebeu a mesma sentença por criar deepfakes por dois anos.
No Reino Unido, criar, possuir e distribuir imagens de crianças com conteúdo sexualmente explícito pode levar a penas severas. A legislação local deve ser atualizada ainda este ano. Uma nova categoria de crime, focada na criação de fotos ou vídeos sexualmente explícitos com IA, será incluída para combater esses casos de forma mais eficaz.
Aumento de Denúncias e Implicações Legais
A quantidade de processos judiciais envolvendo nudes falsos com IA de crianças aumentou quase 50% no último ano, especificamente na Inglaterra e no País de Gales. Durante esse período, a justiça registrou aproximadamente 1.400 crimes sexuais desse tipo, demonstrando a crescente prevalência do problema. Essa escalada de incidentes exige uma resposta rápida e rigorosa das autoridades para proteger os jovens.
A disseminação de fotos pornográficas falsas geradas por IA no ambiente escolar, entre adolescentes, também tem ganhado destaque no Brasil nos últimos meses. Isso acendeu um alerta para a necessidade de novas regulamentações. Felizmente, existe um projeto de lei em tramitação que busca incluir essa prática no Código Penal brasileiro. A medida visa coibir o uso indevido dessas tecnologias.
O texto da proposta de lei prevê uma pena de dois a seis anos de reclusão, além de multa. Essa punição seria aplicada para quem criar ou divulgar imagens sexuais falsas feitas por IA, desde que o caso não envolva um crime mais grave. A pena pode aumentar em um terço se a vítima for criança, adolescente, mulher, pessoa idosa ou com deficiência. Tais ações visam fortalecer a proteção legal e desincentivar o uso criminoso da inteligência artificial. Casos como a utilização de IA de forma questionável em outras mídias também chamam a atenção para a ética no uso dessas ferramentas.
A capacidade de IA de transformar imagens 2D e as falhas em sistemas como o Google Gemini sublinham a importância de entender a segurança e os riscos associados a essas tecnologias. A rápida evolução da inteligência artificial traz muitos benefícios, mas também desafios sérios, especialmente quando seu uso é mal-intencionado. A proteção de dados e a segurança digital são temas cada vez mais relevantes neste cenário.
É importante que a sociedade esteja ciente dos perigos. A conscientização sobre o uso responsável da IA e as consequências legais do abuso dessas ferramentas são fundamentais. Dessa forma, é possível trabalhar para criar um ambiente digital mais seguro para todos, especialmente para os mais jovens, que estão mais expostos a essas tecnologias.
Este conteúdo foi auxiliado por Inteligência Artificial, mas escrito e revisado por um humano.
