Documentos mostram que chatbots da Meta podiam interagir de forma inadequada com crianças e passar informações falsas sobre saúde

Os chatbots de inteligência artificial (IA) da Meta estavam autorizados, pela própria companhia, a manter comportamentos enganosos e até criminosos com usuários, incluindo crianças. Essas ações envolviam temas como racismo, desinformação médica e até a simulação de conversas românticas com menores de idade. A revelação foi feita por uma reportagem da Reuters, que teve acesso a documentos internos da empresa que mostram essas políticas.

As permissões das IAs da Meta

• O documento, com mais de 200 páginas, indica que é “aceitável” descrever uma criança de forma a evidenciar sua atratividade, como “a sua forma juvenil é uma obra de arte”, e em conversas com menores de oito anos, falar algo como “cada polegada de você é uma obra-prima”.
• O único limite mencionado é para questões explicitamente sexuais, como a IA demonstrar interesse direto no corpo do usuário ou atividades envolvendo contato físico.
• Chatbots ainda podem concordar com sugestões e oferecer conselhos jurídicos, médicos e financeiros. Para evitar responsabilizações, recomenda-se que iniciem as frases com “Eu recomendo…”.
• No que diz respeito a discurso de ódio e racismo, a IA é proibida de usar discurso de ódio por conta própria, mas pode ser manipulada por usuários para criar declarações depreciativas, como comparações de inteligência com base em etnia.
• Outro ponto polêmico é que os chatbots podem criar conteúdos falsos com base em comandos do usuário, desde que adicionem uma nota afirmando que a informação é inverídica.
• Já o gerador de imagens da plataforma permite representar cenas de violência, como socos ou chutes, desde que não envolvam crianças ou cenas de morte ou violência extrema.

Por que isso levanta polêmica?

Para especialistas, a declaração de que conteúdos gerados por IA são falsos ou o uso de comandos como “recomendar” é insuficiente, sobretudo em ambientes não regulamentados. Pessoas com saúde mental fragilizada ou menores podem desenvolver comportamentos compulsivos ou até enfrentar consequências graves ao interagirem com esses chatbots. Casos como o de um jovem que tirou a própria vida após conversar com um chatbot da Character.AI, ou um idoso que faleceu ao ser manipulado por um chatbot da Meta para visitá-lo, ilustram esses riscos.

Denúncias anteriores de comportamento inadequado de chatbots da Meta, incluindo interações com menores ou discussões sobre temas sensíveis, reforçam o debate sobre a segurança dessas tecnologias. No Brasil, onde o tema da adultização e proteção de crianças é ainda mais importante, essa questão se torna ainda mais urgente. A plataforma do Facebook e Instagram continua planejando ampliar o acesso a chatbots mais humanos e interativos, buscando preencher a sensação de solidão de muitos usuários, como explica Mark Zuckerberg, CEO da empresa.

O que diz a Meta

• Após a denúncia, a empresa confirmou que os documentos acessados pela Reuters são verdadeiros.
• A Meta afirmou que “remeteu porções” do texto que tratavam de paqueras e simulações com menores, e que isso foi feito somente após as primeiras denúncias, no início deste mês.
• Segundo a companhia, “as regras relacionadas às respostas dos personagens de IA foram e continuam sendo errôneas e inconsistentes com suas políticas, e por isso foram removidas”. Ela garante que possui diretrizes claras para que os chatbots não sexualizem crianças ou façam papéis sexualizados.
• Por outro lado, a Meta não reviu ou corrigiu questões ligadas ao interesse médico, e se recusou a compartilhar uma versão atualizada do documento.

Para se manter informado sobre as controvérsias e evolução dos chatbots de inteligência artificial, fique de olho na seção especial do site do TecMundo.

Este conteúdo foi auxiliado por Inteligência Artificial, mas escrito e revisado por um humano.