▲
- Um pesquisador modificou o modelo de IA GPT-OSS 20B para torná-lo uma base sem raciocínio, com menos alinhamento e mais liberdade.
- Você pode se deparar com conteúdos gerados por IA que reproduzem textos protegidos por direitos autorais de forma idêntica.
- Essa reprodução literal sem permissão levanta debates importantes sobre direitos autorais e uso comercial da IA.
- O fato destaca a complexidade de controlar respostas de modelos de IA e a necessidade de regras claras para seu desenvolvimento.
Um pesquisador, chamado Morris, descobriu algo curioso sobre um modelo de inteligência artificial: ele consegue copiar trechos de obras protegidas por direitos autorais. Em testes recentes, o modelo reproduziu passagens idênticas de três dos seis trechos de livros que Morris utilizou.
A descoberta de Morris envolve o GPT-OSS 20B, um modelo de código aberto da OpenAI. O pesquisador modificou esse modelo para transformá-lo em uma base que não depende de raciocínio, buscando menos alinhamento e maior liberdade em suas respostas. Essa adaptação levanta questões importantes sobre a forma como a IA lida com o conteúdo existente. Para entender mais sobre as adaptações de modelos, confira como um pesquisador adapta modelo aberto GPT-OSS 20B para maior liberdade e menos alinhamento.
A capacidade de Reprodução de obras protegidas de forma idêntica pode ter grandes implicações. Se um modelo de IA consegue replicar textos protegidos sem atribuição ou permissão, isso gera debates sobre direitos autorais e a originalidade do conteúdo gerado por essas tecnologias. A reprodução exata, como observado nos trechos de livros, mostra um comportamento inesperado. Isso pode ter impacto em diversas áreas, desde a criação de conteúdo até o uso comercial.
Essa situação nos faz pensar sobre como a inteligência artificial evolui e os desafios que surgem com ela. O comportamento do modelo, mesmo após ser ajustado para mais liberdade, ressalta a complexidade de controlar a saída desses sistemas. É um lembrete de que o campo da IA ainda tem muitas camadas a serem exploradas e compreendidas. Fique por dentro de outras notícias do setor e das negociações de ações de funcionários da OpenAI. Além disso, a Anthropic revisa política para enfrentar riscos da IA autônoma, mostrando a preocupação das empresas com esses temas.
Modelos de IA, como o GPT-OSS 20B, são treinados com grandes volumes de dados, o que inclui material protegido por direitos autorais. A questão é se a reprodução literal é resultado do treinamento ou de uma falha na sua arquitetura. Este achado sugere a necessidade de mais investigação e de diretrizes claras para o desenvolvimento e uso dessas ferramentas. Recentemente, novas ferramentas de IA foram lançadas em um novo Android, e até um psiquiatra alertou sobre psicose ligada ao uso excessivo de IA.
Leia também:
Este conteúdo foi auxiliado por Inteligência Artificiado, mas escrito e revisado por um humano.
