O Google tem implementado diversas ferramentas para o combate ao abuso infantil na internet, especialmente no que diz respeito ao material de abuso sexual infantil, conhecido pela sigla em inglês CSAM (child sex abuse material). A empresa enfrenta o desafio de gerenciar grandes volumes de conteúdo, que incluem materiais ilegais e ofensivos.
Medidas de Detecção e Remoção
Para lidar com a publicação e disseminação de CSAM, o Google utiliza uma combinação de ferramentas automatizadas de detecção e revisores humanos treinados. A primeira linha de defesa consiste em mecanismos que analisam imagens e vídeos, identificando conteúdos potencialmente abusivos antes que sejam publicados em plataformas como o YouTube e o buscador do Google.
Esses mecanismos incluem classificadores de inteligência artificial e técnicas de correspondência de hash, que comparam novos uploads com identificadores únicos de conteúdos já barrados. Caso algum material consiga ser indexado, o Google toma medidas para bloquear endereços que possam direcionar para esse tipo de conteúdo, especialmente aqueles que possam sexualizar ou explorar crianças.
Alertas e Denúncias
Quando os usuários realizam buscas relacionadas a CSAM, o Google ativa alertas sobre a ilegalidade desse conteúdo. Além disso, fornece orientações sobre como denunciar esses materiais a organizações especializadas, como a Safernet no Brasil. Em serviços como o Drive e o Gmail, os usuários podem acessar a Central de Ajuda para obter informações sobre como proceder.
O Google também colabora com o Centro Nacional de Crianças Desaparecidas e Exploradas (NCMEC), que é responsável por encaminhar denúncias às autoridades competentes. Entre janeiro e julho de 2024, a empresa reportou mais de 2,8 milhões de conteúdos ao NCMEC, sendo quase 600 mil casos classificados como CyberTipline, que envolvem informações sobre casos graves de abuso.
Parcerias e Transparência
A companhia mantém parcerias com ONGs e coalizões voltadas à proteção infantil, compartilhando sua expertise técnica e disponibilizando um “kit de ferramentas de segurança infantil”. Além disso, o Google publica um Relatório de Transparência, que detalha suas ações no combate ao CSAM, com dados atualizados sobre suas iniciativas.
Essas ações são fundamentais para garantir um ambiente digital mais seguro, especialmente para as crianças. O combate ao abuso infantil é uma prioridade para o Google, que continua a aprimorar suas ferramentas e processos para enfrentar esse problema de forma eficaz.
Para mais informações sobre como a tecnologia pode ajudar na segurança online, confira também como a IA está sendo utilizada para replicar personalidades humanas e filmes e séries que oferecem experiências sonoras imersivas.
Via TecMundo
