Usuários do ChatGPT notaram que a inteligência artificial se recusa a gerar respostas que incluam nomes específicos, como “David Mayer”. Ao tentar utilizar esses nomes, uma mensagem de erro é exibida, indicando que o sistema não conseguiu produzir o texto. Essa situação não se limita apenas a Mayer, mas também se estende a outros nomes, como Brian Hood e Jonathan Turley.
Por que o ChatGPT evita certos nomes?
De acordo com informações do TechCrunch, o comportamento do ChatGPT foi observado em relação a vários indivíduos. Além de David Mayer, outros nomes que geram erros incluem Jonathan Zittrain, David Faber e Guido Scorza. A lista pode ser ainda mais extensa, mas a OpenAI, responsável pelo desenvolvimento da IA, não se manifestou sobre o assunto.
Entre os nomes mencionados, Brian Hood, que é prefeito de uma cidade na Austrália, foi erroneamente identificado pelo ChatGPT como autor de um crime. Na verdade, ele foi o denunciante do crime em questão. Já David Faber é um repórter veterano da CNBC, enquanto Jonathan Turley é advogado e comentarista da Fox News, que também foi alvo de informações incorretas geradas pela IA.
Jonathan Zittrain, professor de direito, é conhecido por suas publicações sobre o direito ao esquecimento e a necessidade de regulamentação de sistemas de inteligência artificial. Por fim, Guido Scorza é membro da autoridade de proteção de dados da Itália. A presença desses nomes na lista de restrições do ChatGPT levanta questões sobre a política de conteúdo da OpenAI.
Possíveis explicações para a recusa do ChatGPT
Embora a OpenAI não tenha fornecido uma explicação oficial, algumas hipóteses foram levantadas. Uma delas sugere que a empresa pode ter uma lista de indivíduos que não devem ser mencionados, possivelmente devido a controvérsias anteriores. Outra possibilidade é que a recusa esteja relacionada a um processo judicial em andamento, como o movido pelo The New York Times contra a OpenAI.
O TechCrunch também observou que, ao testar outros autores citados no processo, o ChatGPT não apresentou problemas ao gerar seus nomes. Isso sugere que a questão pode ser mais complexa do que uma simples restrição legal.
Além disso, um leitor do 404 Media notou que aplicativos que utilizam a API da OpenAI não enfrentam os mesmos erros ao mencionar esses nomes. Isso indica que a restrição pode ser específica da interface do ChatGPT, e não uma limitação geral da tecnologia.
O que isso significa para os usuários?
A recusa do ChatGPT em gerar respostas com certos nomes pode ser vista como uma tentativa de evitar desinformação ou controvérsias. No entanto, isso levanta preocupações sobre a transparência e a confiabilidade da IA. Os usuários podem se sentir frustrados ao não conseguir obter informações sobre figuras públicas ou eventos relevantes.
Além disso, a situação destaca a importância de uma abordagem cuidadosa ao lidar com informações sensíveis. A OpenAI pode precisar revisar suas políticas para garantir que o ChatGPT forneça respostas precisas e úteis, sem comprometer a integridade do sistema.
Enquanto isso, os usuários devem estar cientes das limitações do ChatGPT e considerar outras fontes de informação quando necessário. Para quem busca alternativas, existem outros serviços de IA que podem ser explorados, como os mencionados em Descubra 6 concorrentes do ChatGPT que valem a pena testar.
Via Tecnoblog
